蒙阴城是日军在沂蒙山区的中心据点。为了坚决拔除楔入我泰山和沂蒙山区的这一颗钉子，鲁中军区决定用4个主力团和一部分地方武装发起蒙阴战役，用强攻战法收复蒙阴城。
鲁中军区命令，于1945年3月8日对蒙阴城发起总攻。一团担任主攻，负责消灭城内日伪军；四团负责阻击由新泰来援的日军；九团和蒙阴独立营负责消灭蒙阴城周围据点的伪军；十一团配合一团攻打城东门和南门。
一团根据蒙阴城内的伪军情况，准备了两个攻城方案：一是利用城内的伪军关系，选两位有战斗经验，勇敢机智沉着的同志，潜入城里用炸药炸毁西门，部队由西门进攻，直接攻击日寇的据点。这个方案如成功，可减少攻城的伤亡；二是用强攻战法攻入城内消灭日伪军。一团的作战任务是：一营攻下西门，消灭城内日军 ；三营由东关攻进城内消灭全部伪军；二营作预备队，派小部兵力由北关佯攻。
3月8日，部队首长派曹世范、曹凤洲两人将30公斤的炸药密运进县城内，按预定计划于当晚10时40分在城西门起爆。但情况有变，攻城部队未能及时赶到，敌人封锁了爆炸口。城东攻城部队经激烈战斗，冲入东关，占领了敌人外围的八蜡庙碉堡，并从东、东北、东南3个方向县城内猛攻。这时乔贞言策反伪军宋学兰部全部起义。经一夜激战，全歼城四关的伪军，将敌人压缩在城内小围子里。
9日上午，新泰日军100余人，分两路向县城增援。一路日军乘两辆汽车沿新蒙公路开来，12时行至墩台附近，受到一团二营的阻击。战至次日晨，四团二营前来增援，三面冲入敌阵，将援敌全歼。另一路增援之敌60人，沿东都、汶南向东开来，9日上午在汶南以东遭阻击部队伏击，狼狈逃回。
9日18时，攻城部队发起总攻，至10日凌晨4时，歼灭日军3个小队（有援敌2个小队）104人，其中击毙日军中队长山博茎及小队长吉泽安道人等。活捉日军9人，俘伪县长唐耘三，伪队长石绍武等956人，毙伤伪军255人，缴获汽车2辆，小炮11门，重机枪两挺，步枪981支，子弹1.3万发，同时解放县城周围店子、汶南等4个据点，使沦陷近6年之久的县城重回人民手中。