1949年5月27日清晨，解放军第23军67师成功攻占了上海国民党军最高指挥部——淞沪警备司令部，俘虏了7000余名敌军士兵。至此，上海的国民党守军中，仅剩下第37军和第21军继续抵抗。

事实上，第37军由军长罗泽闿指挥，顽强抵抗至最后一刻。该军的第204师约1500人，已经在前一天通过解放军的喊话劝降后，全数投降。然而，敌军副师长带领着约1000名士兵，仍在坚守阵地，不肯投降。

解放军第27军军长聂凤智负责指挥歼灭敌第37军和第21军的残余部队。敌军第37军试图逃脱，但途中又退回，重新在外白渡桥、四川路桥、西藏路桥一线布防，形成了新的防线。此时，敌军长罗泽闿仍旧坚守阵地，指示部队：“必须坚守阵地，未接到命令不得放弃阵地。”

虽然苏州河的中部防线已经被突破，但第37军依旧顽强地守住阵地。聂凤智决定加速推进，命令各师立即向苏州河北岸进攻。79师成功接近外白渡桥。在行动中，79师235团3营7连指导员迟浩田和战士王其鹏、张瑞林，为避免暴露行踪，悄悄地穿过地下水道，沿着脏水沟潜行进入苏州河，并游过河对岸，成功闯入敌第204师师部所在的大楼。令人惊讶的是，他们没有开枪，直接俘获了敌军副师长，迫使敌军的师部和3个营共1000余人缴械投降，为全师北渡扫清了障碍。

敌37军的另一个师则驻守在四川路桥的北邮政总局大楼内，利用该楼的坚固建筑继续顽抗。聂凤智机智地派遣已经投降的国民党上海代市长赵祖康去劝说邮政总局局长王裕光与守军谈判，最终，守军挂出了白旗。然而，敌军在外滩百老汇大楼的两个营在79师235团的包围下拒绝投降。战士们通过高音喇叭喊道：“再不投降，我们将切断大厦的水电！”这番威胁奏效了，敌人绝望地挂出了白旗。

敌37军的最后一支力量驻守在中纺十二厂，约4000人，起初也坚定抵抗。然而，在解放军的压力下，地下党派人进行工作，最终敌军于27日上午投降。

几乎所有敌军已投降。眼看防线被突破，敌军军长罗泽闿意识到无法继续抵抗，最终下令：“各部可以自行解决问题。”这意味着部队可以自由决定是否投降或逃跑。结果，敌第37军的残余部队很快四散逃窜，彻底溃败。

与此同时，敌第21军的残部仍盘踞在杨树浦的发电厂和自来水厂。聂凤智对此深感焦虑。若强行用武力解决，水电设施必定会遭受破坏，严重影响上海的生产和市民生活，这样的后果是绝对不能接受的。但若继续等待敌军投降，又不知何时能够结束战斗。正当他一筹莫展时，陈毅来到了解放军第27军的指挥所。

陈毅听取了聂凤智的汇报后，眉头紧锁，立即询问：“他们是哪一部分的？”聂凤智回答：“是国民党第21军230师。”陈毅觉得这个番号很熟悉，随即问道：“师长、副师长是谁？”得知副师长是许照后，陈毅恍然大悟：“哦，我知道他，毕业于国民党陆军大学，是上海著名人物蒋子英的得意门生。”然后，陈毅立刻指示聂凤智：“蒋子英一直在上海，你赶紧请他出面去做工作。”

聂凤智通过电话迅速联系到了蒋子英。蒋老先生愉快地答应：“我尽力而为。”下午3点，聂凤智收到了报告，自来水厂和发电厂的守军共8000余人已挂出了白旗，宣布投降。聂凤智如释重负，兴奋地连声称：“敌21军投降了！好！好！好！好啊！”

至此，国民党在上海顽抗到底的最后两个军，几乎没有付出一枪一弹，就被解放军成功解决。这一历史事件也被中共党史出版社出版的《战将：中国人民解放军传奇将领纪实》一书所记录，书中详细讲述了聂凤智等将领的征战生涯和人生传奇，成为了深受读者喜爱的军事畅销书，并曾名列中国军事热卖榜第八名。