刘禅继位后不久，武侯邀请隐居于蜀地的名士杜微出仕，在与杜微的书信中写道：

今因（曹）丕多务，且以闭境勤农，育养民物，并治甲兵，以待其挫，然后伐之，可使兵不战民不劳而天下定也。（《三国志·蜀书·杜微传》）

可以肯定，在诸多百废待兴的治蜀事务中，“治甲兵”和“勤农养民”处于同等重要的地位。通过缀合现存的诸多史料可知，武侯在治军上同样是下了一番功夫的。

先主刘备伐吴的惨败致使蜀汉军力尽丧，孙吴学者张俨在所著的《默记·述佐篇》中提到，夷陵惨败后蜀汉“处孤绝之地，战士不满五万”，而到了建兴五年武侯北驻汉中筹划北伐时已是“统领步骑二十万众”。“二十万众”或许夸大，不过自建兴五年（227）至十二年（234）间蜀汉大小北伐战事共计六次，足以说明无论是军队数量抑或军队战力在武侯的重建下已经获得了相当程度的恢复。

在谈及具体的治军举措之前，必须要提及武侯平定南中一事。

《出师表》有“五月渡泸，深入不毛”一语，即是指武侯在建兴三年（225）五月渡过泸水，深入不长草木的南中平定夷人叛乱一事。泸水即今四川、云南两省交汇之处的金沙江。南中这片区域相当于今四川大渡河以南及云、贵两省的广大地区，《史记》中的《西南夷列传》讲述的便是这一地区的历史，该地区在汉武帝时被纳入汉朝版图。蜀汉建国后，久居南中的豪强雍闿煽动小规模叛乱，并将益州郡（郡治在今云南晋宁县东）的郡守张裔绑架送往孙吴。因彼时刘备一心伐吴无暇分心，便任命南中人氏李恢前去管理。待刘禅继位后，雍闿如脱缰野马，先后煽动牂牁郡（郡治在今贵州福泉县）郡守朱褒、越嶲郡（郡治在今四川西昌东南）的夷人首领高定以及在夷人、汉人中声望颇高的孟获共同发动叛乱。雍闿本人还得到了孙权的声援，被孙权册封为永昌郡（郡治在今云南保山市）郡守。后叛军进犯永昌，永昌军民不愿投降，在官吏吕凯、王伉的带领下关闭边境，坚守了几年之久。武侯以国家遭逢大丧为由没有立即出兵，只是在与孙吴修好后派人接回张裔，并让同为托孤大臣的李严写信劝诫雍闿。不过，雍闿自恃南中地处偏远，对李严的劝诫毫不理会。

建兴三年春三月，在与孙吴修好并恢复了一定国力后，武侯正式发兵，决定亲征南中。汉军兵分三路，武侯亲率一军进攻西部越嶲郡的高定，与此同时另遣大将马忠、李恢分路出击，马忠进攻东部牂牁郡的朱褒，李恢进攻中部益州郡的雍闿与孟获。

平南战事打响后，武侯的西路军还在行进途中，叛军就发生了内讧，首领雍闿被高定部下杀死，随后高定本人也在与西路军的交手中被杀；马忠的东路军进展同样十分顺利，迅速收复了牂牁郡。唯独李恢的中路军处于险境，被一倍于己的叛军包围在今日的昆明地区。幸好李恢为人沉稳，巧妙利用自己同为南中人的身份向叛军诈降，在骗取叛军信任、包围松懈之际发动突袭，并迅速与武侯的西路军会师。叛军战败后，残部在孟获的带领下继续顽抗。武侯与孟获交手，七次将其生擒，又七次释放，最终孟获心悦诚服地言道：

公，天威也，南人不复反矣。（《诸葛亮传》裴注引《汉晋春秋》）

随着孟获真心请降，平南战事就此终结，此时是蜀汉建兴三年的秋季，南中战事前后历时不到半年。

南中平定后，作战中有功的李恢、马忠和坚守永昌郡数载的吕凯、王伉等人都被任命为郡太守。当然，除郡守级别的官员任用蜀人外，武侯依旧采用当地的夷人豪帅管理南中，允许少数民族在一定程度上自治，意图将南中变为一个“纲纪粗定，夷汉粗安”的自治地区。大军在回师后，南中又生叛乱，吕凯、新任越嶲郡守龚禄等人遇害。不过这些叛乱规模有限，很快被马忠、张嶷等大将平定，对蜀汉政局没有太大影响。吕思勉先生在《诸葛亮南征考》中如此评价平南一事：

要之亮之素志，自在北方；其于南土，不过求其不为后患而止。军国攸资，已非夙望，粗安粗定，自系本怀。

吕思勉先生所言不虚，也基本符合当时的武侯心中所想，但汉军实力确因南中平定而得到大幅提升。首先，军需物资、军费开支获得南中地区的大量供给，如《李恢传》中载有“出叟、濮耕牛战马金银犀革，充继军资，于时费用不乏”一事。再者，在吸纳了剽悍的南中夷人后，蜀汉军队战力得以增强，譬如《华阳国志·南中志》便提到汉军精锐部队无当飞军的组建：

（武侯）移南中劲卒青羌万余家于蜀,为五部,所当无前,号为飞军。

按照《华阳国志》的说法，迁回蜀地的夷人劲卒有万余家，这里姑且按每家抽一名飞军战士计算，无当飞军当有万人规模。这支由少数民族精壮人士组建的特种部队后来由王平统领。在建兴九年（231）北伐的祁山之役中，王平率无当飞军与曹魏宿将张郃交手，张郃无法攻破飞军营寨，其战力可见一斑。另外，原叛军首领孟获也被重用，官至御史中丞，掌管监察重任，其族人孟琰被武侯赏识，担任汉军另一支精锐部队虎步军的监军一职。建兴十二年（234）北伐的武功之役中，孟琰在武功水水位突涨、与武侯主力军失联之际率领虎步军独力抵挡司马懿，司马懿出动骑兵万人，却无法攻破孟琰虎步军军营。

除了吸收南人增强军力外，武侯在治军本身上也是殚精竭虑，有着可圈可点的革新与作为。这点也可从三个方面加以印证。

其一，武器方面：着重进行汉军武器装备改进。前文已述，武侯以能工巧匠郭达打箭、蒲元造刀，在《诸葛亮集》中的《作斧教》《作匕首教》《作钢铠教》也都记述了汉军更换装备之事，在《作斧教》中还特意提及了未能尽责打造刀斧的官吏被武侯处罚一事。重要的是，武侯本人就是一名能工巧匠，改进连弩、发明木牛和流马都出自他本人的主意，其中连弩“谓之元戎，以铁为矢，矢长八寸，一弩十矢俱发”。晋人李兴（《陈情表》李密之子）在《诸葛亮故宅铭》中夸赞这种元戎连弩是“神弩之功，一何微妙”。有了强劲的连弩，对于弩手同样要精心选拔，《华阳国志·巴志》载武侯从涪陵郡（郡治涪陵县，今重庆市彭水县城）即汉代择选赤甲军的地点选拔劲卒三千人成立“连弩士”部队，并连同他们的家属一并迁回汉中。这支连弩部队是一支战力颇强的远程打击力量，建兴九年（231）的北伐战事中，张郃最后就是在追击至木门（今甘肃天水西南）时被乘高埋伏的汉军乱箭射死。

其二，训练方面：武侯开创了为后世闻名的八阵图，并以此训练军队。八阵图在《三国演义》中被描述成是能使敌人有进无出的迷魂阵，当然这只是小说的夸张表现手法。历史上的八阵图，其实是一整套行军、作战乃至宿营的章法，对军队的各项行动都有严格的规定，为的就是便于攻防，唐代名将李靖还根据八阵图法创造了六花阵法。李兴《诸葛亮故宅铭》中对八阵图的评价是“推子八阵，不下孙、吴”，意为考察八阵图法，即使在孙武、吴起这些历代军事名家的兵书上都找不到。武侯在用八阵图法将士兵训练成熟后，自己也言道：

陈（阵）既成，自今行师，庶不覆败矣。

其三，整顿方面：在初次北伐失利后，武侯作《劝将士勤攻己阙教》，诚恳地告诫全体将士应敢于指出自己的不足。这件事在《汉晋春秋》中也有提及，武侯于街亭失利后“引咎责躬，布所失于天下，厉兵讲武，以为后图”，开展了广泛的练兵讲武，蜀地军民“戎士简练，民忘其败矣”。

在武器、训练、整改上都得到十足发展的汉军战力如何，除上文提到的王平、孟琰在独自抵御张郃、司马懿时不落下风外，通过考察北伐时的其他战绩记载亦可看出一二。数次北伐中汉、魏两军在战场上交手有如下若干次：

建兴六年（228）冬的陈仓之役“魏将王双率骑追亮，亮与战，破之，斩双”。

建兴七年（229）春的阴平、武都之役“遣陈式攻武都、阴平。魏雍州刺史郭淮率众欲击式，亮自出至建威，淮退还，遂平二郡”。

建兴八年（230）秋的阳溪之役“使（魏）延西入羌中，魏后将军费瑶、雍州刺史郭淮与延战于阳溪，延大破淮等”。

建兴九年（231）上邽之役“郭淮、费曜等徼亮，亮破之，因大芟刈其麦”；卤城之役“亮使魏延、高翔、吴班赴拒（司马懿），大破之，获甲首三千级，玄铠五千领，角弩三千一百张，宣王还保营”；青封之役“粮尽退军，与魏将张郃交战，射杀郃”。

战场之上与魏军的数次交手，不管是武侯亲自指挥，或是遣将出击，汉军无一败绩。张俨在《默记》中亦称赞道：

（武侯）提步卒数万，长驱祁山，慨然有饮马河、洛之志。仲达（按指司马懿字）据天下十倍之地，仗兼并之众，据牢城，拥精锐，无擒敌之意，务自保全而已，使彼孔明自来自去。

即便是劲敌司马懿本人，在武侯去世后观看蜀军废弃营寨时也道出了“天下奇才也”的话语。

以上的战绩以及敌方统帅、孙吴学者的评价足以证明武侯在治军方面获得了极大的成功。可以说，汉军在武侯的治理下于惨败后重生，成为一支令曹魏不敢轻视的军事力量。