部署完畢后，劉伯承和鄧小平立即親臨羊山集前線，指示陳錫聯(lián)、陳再道要親自到前沿查看地形，仔細(xì)分析一下為什么攻不下來，并與指戰(zhàn)員一起研究新的打法，以期盡快把敵人消滅。二縱司令員陳再道總結(jié)了前三次攻山的得失后，向首長建議，二縱和三縱最好能統(tǒng)一指揮。劉、鄧首長接受了這一建議，將三縱也交予陳再道臨時(shí)指揮。陳再道當(dāng)場立下軍令狀:下次如果不能活捉宋瑞珂，我就解甲歸田。劉伯承和鄧小平隨即決定:7月26日對羊山發(fā)動(dòng)總攻。但7月25日夜里又下起大雨，壕溝里灌滿了雨水，掩體工事被沖垮，總攻計(jì)劃只好推遲到27日。

7月27日下午6時(shí)30分，我軍首先開始炮擊。炮擊進(jìn)行了40分鐘后，我攻山部隊(duì)突破了敵人的一道道強(qiáng)固防線，從四面八方向羊山山頂涌來。敵人拼命頑抗，敵我雙方都付出了大量傷亡。

27日晚12時(shí)，“羊腰”等制高點(diǎn)被我軍占領(lǐng)，宋瑞珂多次進(jìn)行反撲，均被打退。我軍在山峰上居高臨下，火力網(wǎng)控制了山坡和羊山集，把敵整編六十六師分割包圍。

宋瑞珂急切要求援軍迅速趕到。蔣介石還特意派飛機(jī)投來他的親筆信。信中寫道:“羊山苦戰(zhàn)，中正聞之憂心如焚。望吾弟轉(zhuǎn)告部下官兵暨諸同志，目前雖處于危機(jī)之時(shí)，亦應(yīng)固守到底，援軍日馳夜騁，不時(shí)即到，希弟信賴上帝庇佑，爭取最后五分鐘之勝利?！比欢c蔣介石和宋瑞珂的愿望相反，敵援軍王仲廉部7月25日明明已經(jīng)到了距羊山僅僅100多里的定陶縣冉固集，但他怕鉆進(jìn)劉伯承的“口袋陣”，結(jié)果每天只讓部隊(duì)走10華里。而敵王敬久部雖近在咫尺，但并不肯接近羊山一步，只是不停地發(fā)給宋瑞珂即將趕到的電報(bào)。對此宋瑞珂哀嘆道:“戰(zhàn)不勝，守不固，非吾之罪也?！钡?8日中午，羊山的所有制高點(diǎn)都已被突破，宋瑞珂知道大勢已去，便下令放棄抵抗。至此，羊山戰(zhàn)役勝利結(jié)束，國民黨整編六十六師2萬多人被全殲，宋瑞珂也做了俘虜。

戰(zhàn)役結(jié)束后，我劉鄧大軍揮戈南進(jìn)大別山，直搗國民黨統(tǒng)治的核心地區(qū)，標(biāo)志著中國人民解放軍由戰(zhàn)略防御轉(zhuǎn)入戰(zhàn)略進(jìn)攻的正式開始。為紀(jì)念此次戰(zhàn)役，劉伯承賦詩一首:“狼山戰(zhàn)捷復(fù)羊山，炮火雷鳴煙霧間。千萬居民齊拍手，欣看子弟奪城關(guān)。”

敵整編六十六師師長宋瑞珂，山東青島人，黃埔軍校第三期步科畢業(yè)，曾參加了平定滇桂軍閥楊希閔、劉震寰的叛亂以及東征和北伐戰(zhàn)爭?？箲?zhàn)爆發(fā)后，歷任國民黨第十四師副師長、第十八軍一九九師師長、第九軍副軍長、第六十六軍軍長，先后參加過淞滬抗戰(zhàn)、武漢會戰(zhàn)、棗宜會戰(zhàn)、常德會戰(zhàn)等對日戰(zhàn)斗?？箲?zhàn)勝利后，第六十六軍改編為整編六十六師，宋瑞珂任師長。該師系蔣介石的黃埔嫡系精銳，配置一流的武器裝備，和張靈甫的整編七十四師比起來，除編制配額略少外，裝備和戰(zhàn)斗力一點(diǎn)也不遜色。宋瑞珂被俘后，先后在解放軍教導(dǎo)大隊(duì)和監(jiān)獄學(xué)習(xí)、改造，1960年11月28日，被最高人民法院特赦釋放?！拔母铩焙笙群蟊贿x為中國國民黨革命委員會監(jiān)察委員、上海黃埔軍校同學(xué)會會長和上海市政協(xié)委員。1995年逝世，享年88歲。