西元二二三年劉備過世之後，丞相諸葛亮就成為蜀漢的一代軍政強人，蜀漢於建興三年，西元二二五年安定了南蠻諸部後，隨即於西元二二七年進行第一次的北伐，由趙雲、鄧芝率偏師據箕谷，佯攻郿縣，諸葛亮親率大軍西出祁山，直指隴右，曹魏西線天水、南安、安定三郡全都叛魏歸蜀，洛陽震動，曹叡還親自往長安坐鎮，最後靠右將軍張郃於街亭擊破馬謖，方才將諸葛亮大軍逼退。不過也就在這次戰役中，原任天水郡參軍的姜維歸降蜀漢，成為二十年後蜀漢的棟樑。同年冬季，諸葛亮策動第二次北伐，出大散關，目標是長安西側的陳倉，但魏國西線總司令曹真在第一次北伐戰役後，已預料蜀軍第二次進軍路線，遂命郝昭進駐陳倉，加強防事，結果郝昭便以千餘人的兵力，獨抗諸葛亮數萬大軍二十餘日，蜀軍糧草接濟困難，只能撤退。西元二二九年，諸葛亮第三次北伐，由將領陳戒攻下武都、陰平兩郡，魏蜀兩軍之間並沒有大規模會戰。兩年後，蜀漢建興九年，曹魏太和五年，西元二三一年，諸葛亮第四次大型北伐，同樣西出祁山，新上任的曹魏西線總司令司馬懿臨危受命，抵達長安，指揮車騎將軍張郃、後將軍費曜、征蜀護軍戴淩、雍州刺史郭淮等阻截蜀漢大軍。

    司馬懿臨時從宛調來長安，面對的是一個更廣的防線、更強的敵人以及一群陌生的同事，他先命費曜、戴凌率軍駐守祁山北側的上邽，然後其他部隊全部向西移防祁山，諸葛亮得悉此節，率軍繞過祁山直搗上邽，破費曜等二軍，刈當地熟麥，司馬懿引軍前來，但兩軍並未交戰，諸葛亮率軍西撤，司馬懿只是尾隨其後，守險而不戰。

    司馬懿過度保守的戰略引起魏軍諸將的不滿，張郃、賈栩、魏平等紛紛請戰，這使得新上任不久的司馬懿陷入兩難。五月，司馬懿禁不起壓力，派張郃出奇兵襲擊位於祁山南側的王平軍，司馬懿親率大軍向諸葛亮討戰。諸葛亮求之不得，派魏延、高翔、吳班等率軍出擊，結果魏軍大敗，斬首三千人，司馬懿只得退守陣地。六月，蜀軍又遇到糧運問題，撤兵，司馬懿派張郃追擊，結果中蜀軍埋伏，張郃重傷身亡。

    以上這段司馬懿與諸葛亮的初交鋒，是依據＜三國志＞註引漢晉春秋的記載，蜀軍最後雖然撤退，但司馬懿顯然在面子上吃了大虧，不過若是依＜晉書＞記載，諸葛亮看到司馬懿都是「望塵而遁」，司馬懿最後還追擊蜀軍，「俘斬萬計」，兩者究竟誰真誰假，還請諸位自行判斷了。

    曹魏青龍二年，蜀漢建興十二年，西元二三四年，諸葛亮第五次大型北伐，十餘萬大軍東出褒斜谷，抵郿縣，然後向西移動至五丈原，司馬懿大軍也隨之移動，在渭水南岸與蜀軍對陣，完全採取守勢，不與蜀軍交戰。諸葛亮也有計畫打持久戰，遂駐軍屯田，以免又發生糧荒。這一次司馬懿對麾下諸將有了比較好的掌握，但長久均採守勢，仍要面對不小的壓力，司馬懿為此還特別與曹叡演了一場戲，由中央派使節前來特別吩咐不許出戰，以當作壓制諸將請戰的藉口。

    魏蜀兩軍對峙達百餘日，八月，諸葛亮積勞成疾，病逝五丈原，蜀軍撤退。司馬懿不敢追擊，待蜀軍撤盡，他前往觀看蜀軍留下來的營寨，不禁讚嘆：「天下奇才也！」

    諸葛亮的死解除了曹魏西線的一大威脅，也使得司馬懿有機會將觸角伸至魏國其他地區。曹魏景初二年，西元二三八年，司馬懿奉詔征討位在遼東的燕王公孫淵。公孫家族算是三國時代一個另類勢力，從漢末起便割據遼東，之後公孫康向曹操臣服，但仍保持獨立狀態；公孫淵即位之後氣燄囂張，屢屢挑戰洛陽中央，又自稱燕王，曹叡忍無可忍，先派毌丘儉為幽州刺史征討，不利，遂將司馬懿從長安調來，由他率四萬大軍遠征東北，隨行的還有胡遵，即胡烈的父親。公孫淵派兵於遼隧駐防，希望拖住遠征軍，司馬懿卻用聲東擊西之計，假裝派兵向南，實際上大軍向北直撲公孫淵所在地襄平，司馬懿在野戰中大破燕軍，包圍襄平，經過一個月，襄平陷落，斬公孫淵父子，班師回朝。然而就在半途，司馬懿接到曹叡病重的消息，他快馬加鞭地搭「追鋒車」趕回洛陽，第二次接受輔政的重大使命。

    曹叡託孤的這段，可以說是歷史上最感人的託孤場景，當時曹叡已病重，他將年僅八歲的曹芳及九歲的曹詢叫來，握著司馬懿的手說：「我以後事相託，死也可以忍了；我忍死以待君，能夠再相見，再沒有遺恨了！」然後又看著曹芳，對司馬懿說：「就是他，您看仔細，別認錯了！」並且要曹芳去摟著司馬懿的頸子，司馬懿痛哭流涕，叩首說：「陛下難道沒有見到，先帝也是將您囑託給我的嗎？」當天，年僅三十六歲的曹叡逝世，司馬懿與大將軍曹爽並為輔政大臣，加侍中，假斧鉞，都督中外軍事，錄尚書事，總攬軍政大權。司馬懿此刻或許仍在為故主悲慟，或許為了大權在握而欣喜，然而他尚未意識到，強大的權力鬥爭，即將要將他打入生涯的低點。

    曹爽為曹真之子，沒有他老爸的軍事能力，是一個標準的紈絝子弟，他身邊幾個人，包括何晏、鄧颺、李勝、丁謐等都是浮華之輩，崇尚生活享樂，何晏並且是魏晉玄學之祖，他們很快地組成一個集團，設法排斥老將軍司馬懿。曹叡過世不到兩個月，曹爽即透過小皇帝下詔，任司馬懿為太傅，入殿不趨，贊拜不名，劍履上殿，如漢蕭何故事；太傅是古官名之一，相當於皇帝老師，地位極高，但並無實權，曹爽此舉等於是架空了司馬懿的權力，剝奪其兵權。曹爽自己任中領軍，其弟曹訓為武衛將軍，曹彥為散騎常侍侍講，控制禁軍；再將何晏等調入尚書臺，掌握整個魏國大政。

    從西元二三九年到二四九年的十年間，是司馬懿權力生涯的低潮，曹爽集團的步步進逼，險些就要置他於死地，即使司馬懿在西元二四一年和二四三年兩次擊退東吳的進犯，仍無法阻擋曹爽等人的擴權，西元二四七年，司馬懿稱病下野，暫時不理政府事務。在這段時間內值得一提的，是在正始二年，西元二四一年司馬懿擊退入侵樊城的東吳軍之後，採用當時仍任尚書郎的鄧艾的意見，在淮南一帶大舉屯田，以鞏固東南邊防，鄧艾之名由此而顯。

    司馬懿稱病之後，曹爽等人行逕更為囂張，甚至將故皇帝曹叡的嬪妃帶回府中玩樂。曹爽最初對司馬懿稱病仍半信半疑，命李勝以辭行為由，前去探望司馬懿，司馬懿當然知道這個小技倆，當天便由兩個婢女攙扶出來見李勝，拿衣服故意掉落於地，婢女餵他喝粥，他也不能拿碗，粥濺得胸口皆是，李勝說：「傳聞皆說明公舊疾發作，想不到竟嚴重成這樣！」司馬懿說：「年老枕疾，死在旦夕。君這趟去并州，并州近胡人，要好好戒備，我等恐不復相見，我的兒子師、昭兄弟要拜託你多照顧。」李勝說：「我是要回本州，非并州(李勝是荊州人，回荊州所以稱本州)」司馬懿錯亂其辭說：「你方到并州？」李勝說：「是要去荊州。」司馬懿說：「年老意荒，不解君言。今日你回到本州，以你能力，必能建立功勳！」李勝離開後告訴曹爽說：「司馬公尸居餘氣，形神已離，不值得憂慮了。」從此之後，曹爽等人對司馬懿再不放在眼中。

    曹爽當然不是司馬懿這隻老狐狸的對手，司馬懿退隱，為的就是要蓄積實力，他的兒子司馬師也不是簡單人物，根據＜晉書景帝紀＞，司馬師陰養死士三千人，散居於民間，要用時一呼而齊集，莫知所出。司馬懿在野苦等兩年，終於等到曹爽等謁高平陵的大好機會，發動政變，將龐大的曹爽集團連根拔起，重拾大權。其實高平陵之變的成功，除了司馬懿父子等人反應迅速外，曹爽之前的所做所為早就激起大量士大夫的不滿，就他們而言，高平陵之變並不是司馬懿奪權，而是以輔政大臣身份所發動標準的靖君側行動，所以大部分的政府高官均予支持，曹爽兄弟所控制的禁軍也未見有異常之舉。

    然而司馬懿既已踏上了權力高位，之後的一連串事件便不是他所可以控制，他必須要藉由一連串的流血，以捍衛自己的身家性命，而他的兩個兒子司馬師與司馬昭，亦將要踏上同樣的道路。