1882年， 段祺瑞離開家鄉， 開始闖蕩天涯。 李鴻章創辦武備學堂， 段祺瑞報名參考， 進了武備學堂炮兵科學習。 期間十分刻苦， 對炮的結構瞭若指掌， 成為了炮兵科的學霸。
努力總會有回報， 一次李鴻章視察武備學堂演習， 當時陰雨連綿， 風雨中沒人打中耙子， 李中堂氣得把望遠鏡砸在了地上， 這時卻聽到了學生們的歡呼， 連中三元， 最後一名學員為炮兵科挽回了顏面。
演習結束後， 李鴻章接見了這名神炮手——段祺瑞。
後來李鴻章推薦段祺瑞， 到德國柏林陸軍學院深造。 一年後， 又奉命到魯爾區埃森克虜伯兵工廠， 進行火炮實習。
在其他同學學成歸國後， 李鴻章又特批他留在克虜伯炮廠學習火炮的構造、使用和保養等課程。
甲午海戰爆發後， 他率領武備學堂的學生， 協助中國守軍炮轟日軍。
1895年， 袁世凱奉旨在天津小站練兵， 段祺瑞被任命為炮營統帶。 麾下有兩千名炮兵， 一百餘門炮， 成為了中國近代史上第一個炮兵司令。
從小站開始， 風雲際會， 其間四次出任總理、四任陸軍總長、一任國家元首， 成為近代史上重要的人物之一。
難得的是， 不管做了多大的官， 也時刻以維護中華民族的利益為己任。 作為袁世凱的心腹， 他堅決反對袁世凱稱帝。
執政期間派大將徐樹崢發兵收復外蒙， 這是近代史上唯一一位對外蒙用兵的國家元首， 最後雖失敗， 但值得尊敬。