魏征在被李世民重用之前，确实曾是原东宫的旧臣。就是说魏征和李世民原本是敌人般的存在，但是李世民在玄武门之变之后，还是重用了魏征，这是李世民经过深思熟虑之后做出的决定，从后来的情况来看，李世民的决定是对的，魏征为开创贞观之治做出了很大的贡献，而两人之间和谐的君臣关系也一直为人称道。

魏征在跟随李建成之前实际上已经跟了好几个人。他跟的第一个人就是元宝藏，元宝藏当时举兵起义就是为了响应李密，然后让魏征做了典章书记，出谋划策。李密对魏征是慕名已久，但是魏征真正到了李密身边之后却并没有受到重用，反而像是一个花瓶一样，只是用来摆着好看的，他提出的一些好的建议都不能被李密所用，尤其是李密和王世充大战在即的时候，魏征提议应该坚壁不出，但是长史郑颋却认为这是老生常谈。

洛阳大战以李密失败而告终，李密遂带着魏征等向西投了李渊。魏征在被冷落了一段时间之后请求安抚山东，得了个秘书丞的职务，奉命招抚徐世绩归降。徐世绩果真就归降了大唐，还开仓放粮准备供应李神通的军队，只是这个时候窦建德来犯，李神通、徐世绩、魏征都被窦建德所俘。然后魏征就在窦建德那里做了一段时间的起居舍人。

李世民攻灭王世充和窦建德之后，魏征就成了太子李建成的太子洗马，很受礼遇。第二次讨伐刘黑闼叛乱的时候，李建成挂帅正是魏征给李建成的建议，只是这个时候实际上已经太晚了，李世民的势力已经初步形成了。魏征给李建成提的很多削弱李世民实力的建议，李建成并没有听从，以至于越来越被动。

李世民发动玄武门之变后，李世民和魏征还有一段很有意思的对话：

及败，太宗使召之，谓曰："汝离间我兄弟，何也？"徵曰："皇太子若从徵言，必无今日之祸。"

虽然魏征怼了李世民一把，但是李世民还是让魏征做了詹事主簿，后又引为谏议大夫，开始重用魏征，实际上，不只是魏征这一个东宫旧臣，还有王珪、薛万彻等等，他们都受到了李世民的礼遇，被委以重任。

那么，为什么李世民会重用魏征呢？这其中的原因是多方面的。

李世民发动玄武门之变，杀死了两个兄弟和十个侄子，这本身就让李世民的名声变坏，成为他一生的污点，而且李世民的政权并不是那么牢固的，内忧外患在等着他，他需要收买人心，安抚人心，重用李建成的旧臣就是一个很好的选择，而魏征正是李建成的心腹，这就是在向朝中的各个势力表明，他对于过去既往不咎，并不会清算太子和齐王的余党，而且只要有才能还是会被重用。

当然，魏征也确实是有才能之人，他能被李建成重用足以说明他的水平。日后李世民和魏征这对君臣互相成就，不仅在当时创造了贞观之治，更是在后来，留下了一段君臣和谐的佳话。