国民党整编第74师的前身是国民革命军第74军,成立于1937年8月。在王耀武的带领下,74军在抗战中几乎打满全场,多次和日军硬碰硬,被誉为“抗日钢军”。解放战争爆发后,第74军被改编为整编74师,全师32000余人,全部美械装备,战斗力十分强悍。该师成立后,李天霞认为师长之位非自己莫属,但最终他却败给了自己的师弟张灵甫,李天霞十分郁闷,因此和张灵甫结怨。
1947年5月初,顾祝同指挥45万国军对山东解放区发动重点进攻。这45万人又被分成了三个机动兵团,其中张灵甫的整编74师隶属汤恩伯第一兵团,和他一起行动的是黄百韬的整编第25师和李天霞的整编第83人。为了抢头功,张灵甫率整编74师全速突进,把黄百韬和李天霞远远甩在了身后。黄百韬见张灵甫孤军突进,有被华野包围的危险,就打电话给他要求他回师天马岭,向自己和李天霞靠拢,然后三个师并排突进。
但骄横自负的张灵甫拒绝了黄百韬的建议,认为我军不敢和他硬碰硬,结果被华野包围在了孟良崮。孟良崮山势陡峭,道路崎岖难行,74师的重炮根本上不去;更要命的是山上没有水源,水冷机枪无法冷却,几乎成了摆设。这样一来,74师的战斗力大打折扣。孟良崮战役进行到第二天的时候,74师的旅长和团长们见前景不妙,恳请张灵甫下令突围。但直到此时张灵甫仍然幻想“中心开花”,拒绝突围,最终整编74师在孟良崮全军覆没。
整编74师号称国军第一精锐,为何仅仅坚守了3天就全军覆没?国军内部不少人把失败的原因归在了张灵甫身上,对他的指挥能力提出了质疑。曾经担任过74军人事处处长和第二绥靖区司令部第一处处长的吴鸢认为张灵甫的水平只能当个团长,当师长就很难胜任,老蒋在战役检讨会上称张灵甫缺少“高深的战术素养”。从孟良崮战役的整个过程来看,张灵甫给人留下的印象就是狂妄、自大和固执,其指挥能力实在令人不敢恭维。假如换成胡琏或黄百韬当74师的师长,断然不会败的如此迅速和彻底。
虽然张灵甫的指挥能力不怎样,但74师的兵却是好兵,他们当中许多人都是打过抗战的老兵,单兵技术十分过硬,又熟悉美械装备的使用和操作。孟良崮战役中,74师共有19000多名官兵被华野俘虏,对于这些俘虏,华野上下十分重视,专门成立了俘管处。在对他们进行教育改造的同时,还组织他们进行训练和作战表演,供华野官兵参观学习。改造完成后,近两万名原74师官兵被华野各纵队一抢而光,他们当中有许多人很快成了各自部队的战斗骨干,为解放战争的胜利做出了贡献。