南宋的兵制大体延续了北宋的做法，仍以募兵制为主，保留了许多如禁军、厢兵、乡兵、土兵和弓手等兵种名称。然而，靖康之变后，禁军的地位被新成立的驻屯大军取代，成为了辅助性质的部队。 靖康元年（公元1126年），金军攻占汴京，康王赵构被宋钦宗任命为兵马大元帅，负责营救汴京。康王在相州（河北临漳）集结了大约万人的军队，分成前、后、左、中、右五军，各军设有统制，这是南宋军队重新编组的起点。

第二年，康王赵构即位，称高宗，改元建炎，正式建立了南宋。此时，他指挥的御营军，宗泽指挥的东京留守司军，和吴玠的陕西军成为南宋军队的主力。 高宗将枢密院和三衙的职能暂时搁置，设立了新的御营司，由宰相和执政兼任正副职，负责指挥御营军。御营军下设五军，但兵员数量较少。由于苗傅和刘正彦的兵变，御营五军被分为三军，分别由刘光世、韩世忠和张俊指挥。

到了建炎四年（公元1130年），御前军改为神武军，御营军改为神武副军，刘光世的军队改为御前巡卫军，统归枢密院指挥。与此同时，撤销了御营司，恢复了北宋时期的军制。 在建炎四年，南宋的战乱不断，兵员紧缺，局势混乱，尤其是在金宋交界地区，各地的土族豪强、溃逃将领、抗金起义军等势力割据一方。为了应对这种局面，南宋朝廷设立了二三十个镇抚使，负责管理地方军队。然而，这些地方镇抚使大多因为叛变降金、内斗或战败而被撤销，仅有吴玠的军队保持相对稳定。

进入绍兴元年（公元1131年）后，南宋在江南的统治逐渐稳定，除了川陕地区的吴玠军外，东南各地的主要军队包括刘光世指挥的御前巡卫军、韩世忠的神武左军和张俊的神武右军。此外，还有神武前军的王燮和神武后军的陈思恭，后来这些部队逐渐并入了神武左军和右军。 神武中军的杨沂中被编入宋高宗的宿卫部队，六将的编制使得他迅速升格为部队的指挥官。到绍兴三年（公元1133年），神武中军的兵员已增至6900余人，杨沂中升任神武中军都统制，负责管理前、右、中、左、后、选锋、护圣等七个军。

此时，岳飞指挥的后护军拥有约一万名士兵。绍兴二年（公元1132年），南宋设立了御前忠锐军，兵员约二万人，隶属于待卫步军司，并由枢密院指挥。其兵力大部分随后转交张俊管理，仅留下第五名将军在朝廷。 陕西的吴玠军，在和尚原、仙人关等地大败金军后，成为川陕地区的主力部队。吴玠、岳飞、刘光世、韩世忠和张俊成为南宋五大主力军的统帅，当时的总兵力约为三十万。

绍兴五年（公元1135年），由于神武军属于北齐时期的军制，改为行营护军，韩世忠担任前护军，岳飞担任后护军，刘光世为左护军，吴玠为右护军，张俊为中护军。 各大军被划分成若干军，其中的统兵官有统制、统领等职。每军又细分为多个将领，包括正将、副将、准备将等，统称为将官。一些行营护军下还有部队和队伍的编制。

韩世忠的前护军拥有约八万人，分为十一军，主力驻扎在淮东楚州（江苏淮安）。刘光世的左护军兵力为五万二千人，曾先后驻扎在池州（安徽贵池）和庐州（安徽合肥）。绍兴七年（公元1137年），因刘光世畏敌而怯战，他被解除兵权，左护军的番号随之废止。 张俊的中护军约有八万人，辖下十一军，总部设在建康府（南京）。岳飞的后护军兵力约十万人，驻扎在鄂州（湖北武昌），辖有十二军，精锐部队背嵬军拥有骑兵八千人。吴玠的右护军则以兴州（陕西略阳）为大本营，兵力约七万人。

在绍兴十年至十一年（公元1140-1141年）的宋金战争中，吴玠、岳飞、刘光世、韩世忠和张俊的军队都参与了战斗。刘光世退役，吴玠去世，岳飞、韩世忠、张俊三位将领继续担任主力，并逐渐成为南宋最为著名的将领。 绍兴十一年（公元1141年），赵构和秦桧推行妥协的方针，撤除了韩世忠和张俊的军权，并将岳飞处决。南宋的四支主要军队被重新编制成十支，所有军队名称前加上御前二字，这意味着这些军队成为直接由皇帝控制的部队，而原来的将领无法再直接指挥。这样做的目的是为了加强中央对军队的控制，防范武将势力的过度扩张。 原本的四支主力部队被拆分并改编，分散兵力，形式上体现了对武将的控制和防范。此时，军队的组织也经历了较大的变化，新的编制进一步分散了原本集中的军事权力。 南宋的兵力随着改革逐渐增多，尤其是在绍兴五年（公元1135年）之后，南宋加强了殿前司军的力量，确保中央的军队能有效制约地方的武力。最终，宋高宗的军事体制变得更为稳固，尽管他实施了较为保守的战略。