1928年7月6日， 蔣介石、馮玉祥、閻錫山、李宗仁在北京開會， 到西山碧雲寺孫中山靈前舉行“北伐完成報告祭”。 8月9日， 蔣又派特使到奉天， 勸張學良把五色旗換成青天白日旗。 至此， 蔣宣佈中國“統一告成”。
其實， 蔣介石統一中國， 只是各軍閥問表面的暫時的“聯合”。 實際上， 當時蔣介石的南京政府能控制的地區只有東南五省。 全國數十個國民黨新軍閥都擁兵自重， 各霸一方， 根本不聽蔣介石的號令。 這其中四個勢力最大的新軍閥是：佔據著魯、豫、陝、甘一線廣大地區的馮玉祥；控制著山西省和平津地區的閻錫山；擁有廣西、湖南、湖北三省和華北一些地區的李宗仁；統治著東北四省的張學良。
1929年1月1日， 蔣介石在南京召開“編遣會議”， 決定將現有的84個軍， 計272個師， 裁減為65個師60萬人。 這次會議， 蔣大談“裁軍”、“統一”、“集中”、“奉還大政”、“歸命中央”， 實際上是想用和平手段奪取各個軍閥的軍權， 企圖一舉收拾蔣系以外的軍閥實力派。
馮玉祥、閻錫山、李宗仁等“新軍閥”都出席了這次會議。 這些靠兵起家的“統帥”們， 都懂得“有兵才有一切”的道理， 因此對蔣介石的所謂“裁軍”、“統編”都冷眼相看， 不予支援。
蔣介石看到用和平的手段收服各路“諸侯”不可能， 便決心利用各軍閥之間的矛盾， 用武力各個擊破， 實現“統一”。
他首先把矛頭對準桂系軍閥李宗仁， 因為李宗仁當時佔據武漢，
1929年2月下旬， 蔣軍開始壓迫武漢桂軍。 李宗仁慌忙化裝逃出南京， 潛往上海。 3月21日， 蔣介石宣佈開除李宗仁的黨籍， 下令討伐掛系， 蔣桂戰爭爆發。 由於交通斷絕， 李宗仁不能及時趕到武漢。 面對蔣系劉峙十萬大軍， 桂系軍心動搖。 蔣介石不失時機， 派人前往武漢策反。 不久， 武漢桂系黃陂前線指揮官李明瑞宣佈“服從中央”， 回師討伐武漢。 前軍李明瑞倒戈， 使武漢守將夏威等人十分驚慌， 匆忙中作出決定：放棄武漢， 向西退卻。 蔣介石眼看形勢有利， 親赴武漢坐鎮， 命令軍隊追擊。 夏威等人看大勢已去， 不得已通電下野， 餘部卻被蔣軍繳械收編。 與此同時， 蔣介石又派人帶著鉅款赴河北策反桂系將領，
當蔣介石把槍口對準李宗仁的時候， 為了穩住馮玉祥和閻錫山， 使他們不插手， 蔣拉攏馮、閻對武漢起兵。 馮、閻雖未出兵， 卻通電“服從中央”， 其實是想坐山觀虎鬥。 可是， 李宗仁慘敗後， 蔣介石就立即把槍口調轉過來， 第二個指向便是馮玉祥。
為了制服馮玉祥， 蔣介石還是使用老辦法， 先拉攏閻錫山， 使之保持“中立”；又用離間收買桂系將領的同樣手法， 策反馮玉祥的部將。 5月22日馮軍部將韓複榘、石友三通電“服從中央”。 蔣介石立即下令討伐馮軍，
馮玉祥兵敗， 去投靠閻錫山。 閻錫山見馮玉祥來投靠自己， 以為馮軍也歸附於自己了， 感到自己的力量增大了， 不由得洋洋自得。 此時， 在閻的腦海中出現了一個宏偉的計畫：用馮軍打頭陣去對付蔣介石， 然後不失時機， 奪取國民政府第一把交椅。 於是， 9月17日， 閻錫山夜會馮玉祥， 約定西北軍先進攻蔣軍， 晉軍隨後接應。 馮欣然應諾， 遂命令西北軍孫良誠、宋哲元立即率軍出潼關討蔣。
從上海灘交易所薰陶出來的政客蔣介石， 對閻、馮的上述活動瞭若指掌。
蔣介石連勝李、馮二軍之後， 實現獨裁統治的決心愈加堅定。 因此在收拾了西北軍之後， 他氣焰萬丈， 槍口一轉， 又對準了閻錫山的晉軍。
此時的閻錫山才徹底明白過來， 蔣介石為了實現獨裁統治， 對他們各路“統帥”， 是一個也不會放過的。 閻感到非常惱火， 。 大叫：“居然逼到我的頭上來了!”1930年2月28日， 閻錫山到五台建安村親自接馮玉祥到太原， 聯合召開軍事會議， 決心全力倒蔣。 閻錫山自封為“中華民國陸海空軍總司令”，封馮玉祥、李宗仁為副司令。4月1日他們三人同時宣佈就職，通電討蔣。蔣介石似早有準備。蔣又宣佈永遠開除閻錫山黨籍，並立即下令討閻。一場中國現代歷史上規模最大的軍閥混戰在中原大地上展開了。
中原大戰，東起山東，西到襄樊，南及長沙，北至河北，雙方動員了100多萬軍隊互相斯殺，數千里的戰線上，炮聲隆隆，刀光閃閃。戰爭初期，閻、馮、李聯合作戰，佔有明顯優勢。晉軍、西北軍連克濟南、商丘，逼近徐州、蚌埠；桂軍也攻克長沙、嶽州。然而，蔣介石充分發揮了他的優勢：可以“挾天子以令諸侯”，以中央名義封官許願，策反閻、馮、李的部屬；有英美帝國主義和江浙財團的經濟支持，可以用金錢收買閻、馮、李的叛將。很快，在閻、馮軍的內部就出現了一些叛將。由於這些叛將的倒戈，戰爭便進入僵持狀態。雙方都在尋找擊敗對方的突破口。
這個時候，東北的張學良處於舉足輕重的地位。此前，張一直擁兵不動。在蔣與閻、馮、李軍事對峙處於僵持狀態下，可以說，張的向背決定著交戰雙方的勝敗。因此雙方都在極力拉攏張學良。閻錫山委任張學良為陸海空軍副司令，蔣介石則以中央政府的名義，不僅任命張學良為陸海空軍副司令，並許他以河北、山西、山東部分地盤，賄以3000萬元鉅款。經過長時間的思考，張學良突然於1930年9月18日通電“擁護中央”，進兵關內，進而佔領平津。
由於張學良從背後威脅馮、閻，馮、閻軍內開始分化瓦解。馮部將石友三通電擁蔣，楊虎城嘩變宣佈佔領西安。前線的馮軍全線潰敗，部隊為蔣軍收編。閻錫山見勢不妙，慌忙退縮山西。閻、馮只好通電下野。南邊的李宗仁也在衡陽吃了敗仗，退回廣西。
此戰之後各路軍閥基本都對蔣介石服服帖帖的了，只能俯首稱臣了。
閻錫山自封為“中華民國陸海空軍總司令”，封馮玉祥、李宗仁為副司令。4月1日他們三人同時宣佈就職，通電討蔣。蔣介石似早有準備。蔣又宣佈永遠開除閻錫山黨籍，並立即下令討閻。一場中國現代歷史上規模最大的軍閥混戰在中原大地上展開了。中原大戰，東起山東，西到襄樊，南及長沙，北至河北，雙方動員了100多萬軍隊互相斯殺，數千里的戰線上，炮聲隆隆，刀光閃閃。戰爭初期，閻、馮、李聯合作戰，佔有明顯優勢。晉軍、西北軍連克濟南、商丘，逼近徐州、蚌埠；桂軍也攻克長沙、嶽州。然而，蔣介石充分發揮了他的優勢：可以“挾天子以令諸侯”，以中央名義封官許願，策反閻、馮、李的部屬；有英美帝國主義和江浙財團的經濟支持，可以用金錢收買閻、馮、李的叛將。很快，在閻、馮軍的內部就出現了一些叛將。由於這些叛將的倒戈，戰爭便進入僵持狀態。雙方都在尋找擊敗對方的突破口。
這個時候，東北的張學良處於舉足輕重的地位。此前，張一直擁兵不動。在蔣與閻、馮、李軍事對峙處於僵持狀態下，可以說，張的向背決定著交戰雙方的勝敗。因此雙方都在極力拉攏張學良。閻錫山委任張學良為陸海空軍副司令，蔣介石則以中央政府的名義，不僅任命張學良為陸海空軍副司令，並許他以河北、山西、山東部分地盤，賄以3000萬元鉅款。經過長時間的思考，張學良突然於1930年9月18日通電“擁護中央”，進兵關內，進而佔領平津。
由於張學良從背後威脅馮、閻，馮、閻軍內開始分化瓦解。馮部將石友三通電擁蔣，楊虎城嘩變宣佈佔領西安。前線的馮軍全線潰敗，部隊為蔣軍收編。閻錫山見勢不妙，慌忙退縮山西。閻、馮只好通電下野。南邊的李宗仁也在衡陽吃了敗仗，退回廣西。
此戰之後各路軍閥基本都對蔣介石服服帖帖的了，只能俯首稱臣了。