司马懿的高祖父司马钧为汉安帝时的征西将军,曾祖父司马量为豫章太守,祖父司马隽为颍川太守,父亲司马防为京兆尹。司马防育有八子,因字中都有一个“达”字,当时号称司马八达。晋武帝司马炎诏书说:“本诸生家,传礼来久。”
司马懿是司马防的次子,“少有奇节,聪明多大略,博学洽闻,伏膺儒教”。东汉末年,司马懿生于乱世,“常慨然有忧天下心”。南阳太守杨俊素以知人善任著称,司马懿二十岁前,杨俊曾见过他,说他绝非寻常之子。尚书崔琰与司马懿的兄长司马朗交好,曾对司马朗说:“你弟弟聪明懂事,做事果断,英姿不凡,不是你所能比得上的。”
司马懿少年时和著名隐士胡昭关系很好。因与同郡的周生等人结怨而被谋害,胡昭知道后立刻涉险寻找,在崤山渑池之间找到周生一行,请求他们放过司马懿,周生开始不肯,但胡昭哭泣的诚意最终还是感动了他,救下司马懿。
建安六年(201年),郡中推举他为计掾。时曹操正任司空,听到他的名声后,派人召他到府中任职。司马懿见汉朝国运已微,不想在曹操手下,便借口自己有风痹病,身体不能起居。曹操不信,派人夜间去刺探消息,司马懿躺在那里,一动不动,像真染上风痹一般。
建安十三年(208年),曹操为丞相以后,使用强制手段辟司马懿为文学掾。曹操对使者说,“若复盘桓,便收之”。司马懿畏惧,只得就职。曹操让他与太子往来游处,历任黄门侍郎、议郎、丞相东曹属、丞相主簿等职。
而据《魏略》则记载,司马懿好学,曹洪自以为才疏,想让司马懿去帮助他,司马懿耻于和曹洪来往,假装拄拐不去。曹洪记恨司马懿,去跟曹操打小报告,曹操征召司马懿,司马懿立刻扔了拐杖去见曹操为其效命。
曹操逐渐察觉司马懿“有雄豪志”,又发现他有“狼顾之相”,心里很忌讳。因此对曹丕说,司马懿不是甘为臣下的人,必会干预我们的家族之事。但因曹丕和司马懿关系很好,总是回护他,而得以无事,于是司马懿勤于职守,废寝忘食,遂使曹操安心。当时曹操手下的门阀官僚拥汉者尚多,为曹操所忌,司马懿在此关键问题上可能早就表示支持曹操,逐渐被接受重用。
曹丕继位后,对于宗室势力尾大不掉很少犯愁,于是魏文帝曹丕为了拉拢士族,从而采纳司马懿和吏部尚书陈群的意见,于黄初元年(220年)由命其制定新制度,即九品中正制。此制至西晋渐趋完备,南北朝时又有所变化,它上承两汉察举制,下启隋唐之科举,在中国古代政治制度史上占有十分重要的地位,乃中国封建社会三大选官制度之一,从曹魏始至隋唐科举的确立,这其间约存在了四百年之久。这种选官制度,实际是两汉察举制度的一种延续和发展,或者说是察举制的另一种表现形式。
两汉时期的察举制,到了东汉末年,已为门阀士族所操纵和利用,他们左右了当时的乡闾舆论,使察举滋生了种种腐败的现象,与要求参与政治的中小地主及其知识分子产生了尖锐的矛盾,在如何选官的问题上斗争激烈。曹丕在采纳司马懿、陈群的建议后,九品中正制正式成为了魏晋南北朝时期主要的选官制度,但当时察举尚未完全废除,九品中正制就是在这种背景形势下产生的。
九品中正制促生了很多有才名的寒族子弟,并且曹丕为了平衡朝中势力,对这些人很多都委以重任,这些人感恩司马懿,认其为老师,像邓艾,钟会,郭淮等等都称是他的学生,唯他马首是瞻,与宗室势力共同执掌朝局。也正是由于这股势力奉司马懿为首,并且一直护卫着司马懿及他的司马家族,使其免遭杀害。魏帝也得见其成,使其与宗室平衡互斗,但是想杀司马懿的心一直存在着却又不能杀,委实难受。