孟良崮战役中，号称是国军五大主力之首的整编74师全军覆没，师长张灵甫中将被击毙。整编74师就是原来的74军，被称之为虎贲军，御林军，是国军头号主力，也是蒋介石最喜爱的部队，所以这支部队全军覆没之后，蒋介石很不甘心，立刻让王耀武重建整编74师。

王耀武将没有参加孟良崮战役的三个新兵教导团和一个榴弹炮营组建为51旅，山东警备二旅改编为57旅，广东航空警备旅改编为58旅。孟良崮战役结束后，整编74师的一些溃兵也先后被编入了这支部队中。重建后的整编74师师长是邱维达，他是黄埔四期毕业，淞沪会战时期，他和张灵甫都是王耀武51师手下的团长，很有军事才能。

1948年1月，整编74师重建完毕，58旅驻守阜阳，51旅驻守蒙城。1948年3月，刚从大别山出来的中原野战军想要打一场胜仗，恢复一下士气，他们将目标盯上了驻守在安徽阜阳的整编74师58旅。整编74是58旅拥有9000多人，全副美械装备，战斗力并不弱。中原野战军为了打赢这场仗，不仅出动了自己的五个纵队，还从华野调来了一个纵队。

1948年3月29日，中野一纵和11纵率先对58旅发动进攻，一纵担任穿插任务的20旅58团不但没有完成任务，反而损失惨重，尖刀连打的就剩下一个班。在中野和58旅激战期间，58旅222团团长带着一个营打击中野一纵2旅和20旅的结合部，给中野造成了很大的损失，之后中野又多次派部队进行反攻，但是也被击退。

中野和58旅激战六天后，邱维达带着整编74师主力前来增援，其余的国民党军援军也纷纷向阜阳赶来。中野为了避免更大的失利，不得不撤退。