1947年7月27日刘邓大军第二、三纵队，第六纵队一部，第一纵队炮兵团、榴弹炮营对被困在羊山集的国民党军发起总攻，激战一天，全歼守敌。至此，历时28天的鲁西南战役于7月28日胜利结束，共歼灭敌人5．6万人，取得了战略进攻的初步胜利。
1947年8月7日夜刘邓大军按计划从鲁西南的巨野、郓城出发，兵分三路以排山倒海之势，突破敌人尚未完成的合围圈，踏上了千里跃进大别山的征途。