魏文帝曹不在位不到七年死去。 臨終前他為太子曹叡安排了四個輔政大臣， 即曹真、曹休、陳群、司馬懿。 曹真和曹休兩個曹氏族人與兩個外姓共同輔政， 這四人威望都很高， 他們完全可以組成豪華陣容， 保護魏明帝， 不受外力威脅。
地方將領， 以大司馬曹休坐鎮東南， 大將軍曹真坐鎮關中， 讓司馬懿坐鎮南陽。 這樣， 軍權仍由曹氏宗族控制。 外姓司馬懿雖然也掌握著一部分重兵， 但曹真和曹休的威望高於他， 兵權也重於他， 他們兩人， 一個東南， 一個西北， 把司馬懿夾在中間， 使他不敢有非分之舉。
魏明帝特別信任和尊崇曹真， 故把鎮守關中對蜀戰爭的任務交給他。 太和四年， 曹真回洛陽朝見， 又升他為大司馬， 並賜“劍履上殿， 入朝不拜”。 後來， 曹休、曹真相繼死去， 曹氏宗族後繼無人， 對蜀戰爭非司馬懿莫屬。
從此， 司馬懿開始掌握曹魏軍權。 在取得對蜀的勝利後， 他率兵消滅割據遼東的公孫淵， 成為曹魏舉足輕重的人物。 魏明帝在臨終前安排曹爽（曹真長子）、司馬懿為顧命大臣， 與之共輔政的曹爽為人軟弱， 根本不是司馬懿的對手。 經過幾番較量， 司馬懿就把他打翻在地， 輕易地竊奪了國柄。