尚书省，是魏晋至宋时期中央政府中极为重要的最高行政机构之一。它最初称作尚书台，后演变为尚书省，其渊源可追溯至汉代皇帝的秘书机关——尚书。秦汉之初，尚书为少府属官，是在皇帝身边处理事务的小臣，与尚冠、尚衣、尚食、尚浴、尚席并称六尚。因尚书掌管殿中文书的收发与启示，同时保管图籍，所以被称作尚书。至汉武帝刘彻时代，随着君权的进一步强化，政务不再专由丞相府或御史大夫府掌管，而是通过尚书办理。尚书负责省阅奏章、传达皇帝命令，其地位逐渐提升，成为中央政务的关键枢纽。

在尚书由宦官掌管的时期，大臣们曾激烈反对这一制度。直到成帝建始四年（公元前29年），尚书职位才专由士人担任。随着尚书在西汉成为机要部门，掌握实权的大臣常兼领尚书事务，例如霍光以大将军领尚书，王凤以大司马领尚书。汉光武帝刘秀深知西汉末期权臣专政的弊端，有意削弱三公的相权，将太尉、司徒、司空保留高位以示宰相之名，而实权逐渐移交尚书。当时尚书机构称台，设有令、仆射各一人，尚书六人，分主六曹（或五曹六尚书，其中三公曹置尚书二人）。令、仆射之下设左右丞各一人，负责掌录文书，同时检查各项事务是否按时完成。尚书下设侍郎三十六人，分属六曹，专司起草文书；各曹下又设令史十八人，主抄誊文书。至此，尚书台已发展为组织复杂、功能完备的政府中枢，号称中台。正如章帝时期韦彪所言：天下枢要，在于尚书。然而，在东汉时期，尚书台仍隶属于少府，尚书令、仆射、尚书的禄秩并不高，令秩千石，仆射、尚书秩各六百石。

进入三国时期，尚书台正式脱离少府，成为全国政务总汇机构。令、仆射、尚书的品秩已达第三品，与九卿并列。汉献帝时，曹操掌政，荀勦任尚书令，曹操征伐在外，荀勦常居中持重，可见其官位的重要性。然而，随着尚书权威上升，最高统治者开始有所疑虑，逐步剥夺其部分权力。曹操为魏王时，设秘书令管理尚书奏事；其子曹丕即位为魏文帝后，改秘书令为中书令，并置中书监，统辖中书郎若干人，形成中书省。魏明帝时期，中书监与中书令成为专任机构，尚书台原有的机枢地位逐渐削弱。尽管如此，全国政务仍首先集中至尚书台，因此执政重臣仍需加录尚书事以过问机密事务。孙吴效仿曹魏，亦实行尚书、中书并置的制度。

蜀汉沿袭东汉体制，尚书权力仍居要位。西晋沿袭曹魏，以尚书台总揽政务，同时另置中书、门下二省以分其权。尚书令、仆射仍为全国行政首脑，称端右、端副，地位高于中书监、令及侍中，重臣当国时仍需加录尚书事。至东晋以后，录尚书之权逐渐分散，有时三四人并录尚书事。宋孝武帝孝建中时，为防大臣权力过盛，废除录尚书之职，自此多有置废不常。魏晋以来，士族崇尚清淡，不喜处理琐碎事务。西晋王衍由尚书仆射升任尚书令，身居宰辅，却不以经国为念。梁朝谢肭为司徒、尚书令，惮于繁琐事务，多不亲理职事。东晋以后，高门子弟视出任尚书郎为耻，遂不愿就职，能任者多敷衍事宜。尚书台日常事务遂多交由令史处理，令史权力逐渐上升。梁武帝曾尝试改革，将令史人选由寒人改为士族，但土族尚不乐为台郎，何况令史，改革未能推行。

南朝时期，中书舍人逐渐掌管机密，尚书省实际地位进一步下降，长官被排除于决策之外，仅作为执行机构存在。同时，尚书省各部职权逐渐被新兴使职夺取。使职由皇帝以敕令任命，专管具体事务，属于差遣性质。唐玄宗时期，使职发展迅速，例如财政方面设劝农使、度支使、营田使等，这些专职机构直接禀承皇帝敕令，鲜少通过尚书省办理事务。

安史之乱之后，军事与政务需求增加，使职数量与权力进一步扩大，加之宦官专政、藩镇跋扈，尚书省权力愈加削弱。各司多沦为闲曹，兵部无戎帐，户部无版图，虞、水不管山川，金、仓不司钱谷，官曹空置，俸禄徒增，一饭而归，竟日无事。唐末，尚书省名存实亡。北宋初，尚书省形式上仍存，但权力不复，郎官不治事，仅借以寄禄秩。辽、金沿用尚书省制度，略同宋制。元代以后，尚书省彻底废除，其漫长而曲折的历史画上句点。