武德八年（公元265年），突厥进攻太原，李靖率领一万江淮精兵北上，驻守太谷，与突厥的军队展开血战。此次参战的其它唐军部队损兵折将，唯独李靖所部得胜而还，此后，他得以全面参加反击突厥的战争。武德九年，突厥进攻灵州，李靖率部在青铜峡附近与颉利可汗血战一日，打退了颉利可汗。李靖担任了灵州大都督，承担了大唐北方防御的千斤重担。

武德九年六月，太白金星两次在白天划过天空，爆发了玄武门之变。此时，太子李建成处心积虑地要扳倒功勋卓著的弟弟、天策上将李世民。结果是李建成和齐王李元吉被杀。不久，唐高祖让位给李世民，成为太上皇，千古一帝李世民登基成为唐太宗。

在玄武门之变发生之前，李世民曾派人去征求李靖的意见，李靖表示了中立的态度。军人不干预朝政，本是一位将军应有的操守。李世民是一位杰出的帝王，当然理解李靖的所作所为，他即位后，马上任命李靖为刑部尚书，后又代理中书令，使李靖成为名副其实的宰相。

唐太宗执政之后重用李靖，李靖也非常尽心报效。唐贞观三年（公元629年）冬十一月，唐太宗任命李靖为行军总管，李靖奉诏率大军十余万分六道征讨东突厥。

贞观四年正月，李靖带领三千精锐骑兵，夜袭东突厥颉利可汗的牙帐，颉利可汗以为来的是大唐倾国之兵，慌忙逃跑，一直跑到今天的内蒙古二连浩特西南，定襄落入了李靖手中。捷报传到长安，唐太宗十分欣慰，“当年李陵以五千步卒血战匈奴，虽败犹荣，今天李靖以三千骑兵就威振北方，实在是闻所未闻，当年渭水之盟的耻辱一战而雪。”

颉利可汗见大势已去，遂决定向唐朝求和，并且愿意自为人质，李世民表示同意，派出唐俭作为出使东突厥的外交使节。

李靖率领一万精锐骑兵悄悄跟在唐俭后面，在唐俭和颉利可汗握手言欢的时候，发动突然袭击，唐军所向披靡，斩首一万多级，俘虏突厥男女老少十八万人，缴获牲畜数十万头。颉利可汗的妻子隋朝义成公主被唐军所杀，颉利可汗拚命逃窜，却未能逃脱。

贞观四年三月，颉利可汗被唐军俘获，曾经不可一世的东突厥汗国灭亡。大唐威振四方，万国景仰。在庆功宴上，李世民亲自起舞，李渊用琵琶为之伴奏，举国欢腾，共同庆祝大唐帝国的旭日东昇。

然而，此时李靖却遭到诬告，御史大夫温彦博弹劾他纵兵掳掠，把突厥珍物一抢而空。在唐太宗面前，李靖没有为自己辩解，诚恳谢罪。唐太宗喜欢名将这种为人处世的态度，奖其功，赦其过。不久，唐太宗明白了事情的真相，知道李靖并没有染指任何突厥珍物，就坦率地向李靖认错：“以前有人在我面前说你的坏话，我偏听偏信，现在我知道那些都是小人的谗言，请你不要把这事放在心上”。他赐绢二千匹，拜李靖为尚书右仆射，参与国家大政。

饱读史书的李靖当然知道，在英明神武的唐太宗面前，恪守君君臣臣的礼仪最为妥善，在朝堂之上，他“恂恂然似不能言”，从不乱发意见驳斥那些诬陷他的人，老成持重，博得了“一代楷模”的赞誉。贞观八年（公元634年），李靖以足疾请辞宰相之位，获得恩准，但唐太宗仍然请求他每隔几日去参加宰相会议。