1881年段祺瑞在祖父病故後獨身前往山東， 投奔本家的一位在威海駐軍中任管帶的族叔段從德， 被安排在營中當司書， 開始了他的軍旅生涯。 20歲的時候， 李鴻章組建天津北洋武備學堂， 面向全國招生， 段祺瑞就以全國第一的成績進入天津武備學堂， 被分配到炮兵科。
在天津武備學堂， 段祺瑞先後學習了兵法、地利、軍器、炮臺、測繪等新式課程。 1887年他以最優秀的成績從天津武備學堂畢業。 兩年後， 段祺瑞和其他四位同學一起被李鴻章安排前往德國學習， 是中國最早的一批官方留學生。
1890年， 段祺瑞從德國留學歸來， 被李鴻章安排到威海任職做教官， 五年後和袁世凱一起到小站練兵， 在新軍編臉過程中一直充當重要的角色。 在1905年和1906年的兩次大規模的軍事演習過程中， 段祺瑞是北軍的總指揮官， 兩次演習使段祺瑞的知名度和權利迅速攀升。
1911年， 辛亥革命爆發， 清廷皇帝拒不投降。 北洋軍閥的大佬馮國璋， 黎元洪等都在觀望， 沒有一個人站出來， 包括袁世凱也不敢輕動。 而段祺瑞主動站出來， 聯合將領， 代表北軍42萬將士給溥儀發電報， 勸溥儀自己解散清政府。 1912年溥儀正是退位。
段祺瑞和袁世凱因小站練兵結下了深厚的友誼， 清朝滅亡後， 袁世凱為第一任中華民國的總統， 段祺瑞出任民國總理。 1912年袁世凱有心稱帝， 段祺瑞苦勸無果， 公開站出來反對袁世凱稱帝， 在大事面前， 段祺瑞不糊塗， 有立場， 不講交情， 一心為公。 在袁世凱稱帝期間， 段祺瑞賦閑在家。 當聽到袁世凱病重， 他直奔袁府， 在病床前對袁世凱說：“大總統若肯取消帝制， 從今往後善後事情， 定當盡力。 ”在袁世凱彌留之際宣佈取消帝制。
段祺瑞一生清廉， 一生位高權重， 卻從不謀私利， 即 使別人送重禮給他， 他都是拒收。 馮玉祥常跑來給段祺瑞送禮， 都是被他拒絕， 後來氣的馮玉祥給他送了個南瓜， 寓意他是南瓜腦袋， 他卻高興的收下了。
段祺瑞退出政壇後， 就在天津做寓公， 因為沒有收入來源， 也沒有什麼積蓄， 全靠部下的救濟， 在離職後， 就遣散了自己的傭人， 自己動手豐衣足食。 九一八事變後， 日本跑去天津拉攏他， 讓他組建傀儡政府， 想讓他這個在中國政壇上風雲人物來做大總統。段祺瑞閉門不見，寧願死也不願和日本人合作。自始至終，都維護了一個中國人的尊嚴。日本人多次威逼，無奈只能南下上海定居。
1936年，段祺瑞突然病重，被送往醫院，第二天，他召集家人和部下立下遺囑，這份遺囑只有國事，沒有私情。他在遺囑中向政府提出了“八勿”之說，作為國家的復興之路。
八勿之說：“勿以我見而輕起政爭；勿尚空談而不顧實踐；勿興不急之務而浪費民財；勿信過激言行之說而自搖國本；講外交者，勿忘鞏固國防；司教育者，勿忘保存國本；治家者，勿棄國有之禮數；求學者，勿鶩時尚之繁華。這八勿之說，即使放到現在也是治國的良策。
段祺瑞一生三次造共和，可是到死也沒有看到國家共和，他一生立志治國安邦，卻更多時候無可奈何。一生愛惜清明，卻毀於一旦。大學問家梁啟超這樣評價：“不顧一身利害，為國家勇於負責，舉國中無人能比”。
想讓他這個在中國政壇上風雲人物來做大總統。段祺瑞閉門不見，寧願死也不願和日本人合作。自始至終，都維護了一個中國人的尊嚴。日本人多次威逼，無奈只能南下上海定居。
1936年，段祺瑞突然病重，被送往醫院，第二天，他召集家人和部下立下遺囑，這份遺囑只有國事，沒有私情。他在遺囑中向政府提出了“八勿”之說，作為國家的復興之路。
八勿之說：“勿以我見而輕起政爭；勿尚空談而不顧實踐；勿興不急之務而浪費民財；勿信過激言行之說而自搖國本；講外交者，勿忘鞏固國防；司教育者，勿忘保存國本；治家者，勿棄國有之禮數；求學者，勿鶩時尚之繁華。這八勿之說，即使放到現在也是治國的良策。
段祺瑞一生三次造共和，可是到死也沒有看到國家共和，他一生立志治國安邦，卻更多時候無可奈何。一生愛惜清明，卻毀於一旦。大學問家梁啟超這樣評價：“不顧一身利害，為國家勇於負責，舉國中無人能比”。