中國國民黨自1919年由中華革命党改組成立以來，
其組織與黨員成分就相當複雜，
尤
孫中山北上前讓胡漢民出任代理大元帥之職，
但胡在黨內的影響力遠不及孫中山，
孫在世時，
他可以理所當然的以助手身份暫時控制局面，
孫中山一旦逝世，
胡漢民在黨內的地位馬上受到挑戰。
胡漢民自己非常清楚這個關係，
所以在孫中山病危時他就對廖仲愷等人說：“大元帥職權，
兄弟實不當再行代理，
最好能將大元帥府根本改組為政府，
並採用委員制，
使本党同志，
能有共同負責的機會。
”
胡漢民改組政府的提議得到眾人認同，
但不久後即傳來孫中山逝世消息，
國逢大喪，
改組之事也被譚延闓以“大局未定，
不便立即進行”為由擱置了。
不久後，
黃埔黨軍在第一次東征和平定楊、劉之役中取得勝利，
廣州革命策源地得到鞏固，
此事又再一次被提上議程。
1925年6月14日，
國民黨中央政治委員會做出將大元帥府改組為國民政府的決定，
改組後的政府實行委員合議制。
同時規定“政府的方針必須由國民黨政治委員會做出決定後再以政府名義執行”。
也就是國民政府“以党治國”的原則。
在組織形式上，
胡漢民在公佈的改組方案中為國民政府規定了中央、省、市三級機構。
中央一級的機構具體有“設國民政府，
掌握全國政務；設軍事委員會，
掌握全國軍務；設監察部，
監察政府各級機關官吏之行動及考核款務；設懲吏院，
懲罰貪污不法及不服從政府命令的官吏”。
1925年7月1日，
中華民國國民政府的開府典禮在廣州第三公園舉行，
宣告正式成立。
參加第一次會議的國民政府委員共有16人，
會議推舉汪精衛、許崇智、譚延闓、胡漢民、林森為常務委員。
國民政府主席由汪精衛擔任，
此外特任胡漢民為外交部部長、許崇智為軍事部部長、廖仲愷為財政部部長、徐謙為大理院長兼司法行政事務。
同時聘任來自蘇聯的鮑羅廷為國民政府高等顧問。
7月3日，
國民政府成立了最高軍事領導機關——軍事委員會。
軍委會於8月26日決議，
廢除以省命名的粵、湘、滇等軍事番號，
並將之前的党軍、建國軍等番號一律改編為國民革命軍。
