袁世凱死後， 北洋軍並沒有迅速分裂， 相反還比較團結。 當時種種原因， 繼承總統大位的是“外人”黎元洪而不是北洋系自己的人， 為此， 北洋系的人還找過段祺瑞要說法。 其實， 黎元洪當總統只是權宜之計， 一方面為了符合《約法》精神（總統死副總統繼）， 另一方面也是為了堵住護國軍的嘴。 袁世凱的真正接班人是段祺瑞， 段名義上只是總理， 卻掌握著實權， 成功架空了黎元洪。 而且， 北洋軍還是認段祺瑞這個老大的， 並沒有分家散夥。
北洋系開始分裂是從直皖戰爭開始的， 而直皖戰爭可以簡化為段祺瑞與吳佩孚的矛盾。 段祺瑞深知西南軍閥是個地雷， 必須排掉， 所以不惜從日本借款用於練兵， 企圖用武力實現真正的統一， 超越自己的前主公袁世凱。 開始， 戰事發展順利， 北洋軍順利拿下湖南， 並進一步兵指廣西。 就在這個節骨眼上出事了——作為主力戰將的吳佩孚頓兵不前，
吳佩孚與段祺瑞先是在報紙和電報上打嘴仗， 後來直接發展到武力開撕， 這就是直皖戰爭。 段祺瑞信任的徐樹錚、段芝貴、曲同豐等人統統不是吳佩孚的對手，
袁世凱是1916年死的， 段祺瑞是1920年下臺的， 中間有4年之久， 在中國做事情， 資歷在很大程度上比能力更重要， 段祺瑞的資歷和能力比袁世凱差一個檔次， 只能勉強維繫北洋軍的統一。 段祺瑞倒臺後， 再沒人能鎮得住北洋軍那些老資格的將領， 分裂難以避免。