“寧漢合流”后，雖然武漢政府人員遷至南京，但對于新政府如何組建，各方卻仍存爭執。在“容共”問題上，國民黨內部一直分作三派：第一派是我們過去講過的、最早主張清共的“西山會議派”，他們在上海設有中央黨部；第二派是以蔣介石為首的國民黨新右派，他們在武力清共后，于南京設立中央黨部；第三派則是將容共堅持到最后一分鐘的汪精衛，其中央黨部設在武漢。

1927年8月，蔣介石宣布下野，南京政府內支持蔣介石的人，如胡漢民、吳稚暉、蔡元培、李石曾、張靜江等也隨之聯袂辭職，離開南京。蔣介石先至上海，再轉返原籍奉化，最后于9月28日自上海動身東渡日本。于是，南京就成了李宗仁、白崇禧等桂系軍人的天下。隨后，武漢國民政府宣布遷都南京，實現“寧漢合流”，于是便到了討論新政府權力分配問題的時候了。

當時，國名革命軍中桂系的勢力雖然在北伐中大大擴張，但桂系在國民黨內卻沒有什么地位，于是統治南京的桂系實力派就拉拢了“西山會議派”中的國民黨元老來為自己撐腰。1927年9月11日，武漢、南京和上海（指“西山會議派”，因其總部在滬）三方面的主要負責人汪精衛、李宗仁和鄒魯在上海召開了寧、漢、滬三方中央委員談話會，討論寧漢政府合并和統一黨務的問題。會議上，李宗仁和“西山會議派”的張繼一唱一和，力主廢除二屆一中全會上的《彈劾西山會議案》，并指責汪精衛反共不力，貽誤黨國大業。最后，武漢方面代表孫科提出了一個折衷的辦法：由寧、漢、滬三方共同組織一個中央特別委員會，作為過渡，打理黨務，這一提議被各方所接受。在隨后選出的14位中央特別委員會代表中，汪精衛雖然排名第一，但桂系軍人和“西山會議派”成員卻占據了多數，汪精衛、蔣介石、胡漢民等國民黨重量級人物都反對這個特委會。此時，蔣介石和胡漢民都已下野，于是汪精衛也于9月13日通電下野，以示抗議。

9月16日，國民黨中央特別委員會在南京正式成立，次日，中央特委會第二次會議決定改組國民政府和軍事委員會。9月20日，新產生的國民政府委員和軍事委員會委員同時舉行就職典禮，至此，國民黨“三個中央黨部、兩個中央政府”并存的局面宣告結束，寧、漢、滬三方合流遂成。然而，桂系軍人和“西山會議派”在軍事實力上不比蔣介石，在黨內資歷聲望上又不如汪精衛，因此由他們控制的中央政府注定是難以長久的。

9月21日，汪精衛、唐生智等人成立武漢政治分會，與中央特委會相對抗。同時，唐生智率部由安慶東進，攻占蕪湖，威逼南京。南京特委會一面派人與汪精衛協商，一面派李宗仁、程潛、朱培德分兵三路討唐，寧漢合流變成了寧漢戰爭。11月11日，唐生智戰敗，通電下野，西征軍占領武漢。戰爭期間，汪精衛在張發奎、李濟深等人的聯名邀請下，于10月21日前往廣州，并于10月30日召集在粵的中委會成員開會，通電全國否認南京特別委員會的合法性。隨后，汪精衛邀集外地中委會委員前來廣州，在廣州召開二屆四中全會，而南京方面作為回應，也發出通電，堅持特別委員會不能取消，并邀請各地中委會委員到南京召開二屆四中全會，國民黨又出現了寧粵分裂的局面。

在國民黨內哄不斷之時，很多國民黨人都電請蔣介石回國復職，收拾亂局，就連本來反蔣的桂系李宗仁也頂不住了，在汪精衛公開反對特委會后，他也表示同意蔣介石回來復職。而這一期間，蔣介石正在日本。蔣介石此次訪問日本辦成了兩件大事：其一是見到宋老夫人并征得了她對自己與宋美齡婚事的同意，其二是得到了日本方面對北伐的理解和支持。

1927年3月北伐軍進入南京時，在共產黨的策動下，南京發生了很多針對外國人的暴行，美英列強對此十分惱火，曾炮擊南京報復，并向武漢和南京政府同時提出了最后通牒。后來，蔣介石用“四·一二”清共進行了回應，讓以反共為第一國策的歐美列強有了一塊石頭落地的安心感，同時也開始在政治和經濟上支持蔣介石，使蔣介石終于可以放心大膽的與曾是國民黨后援的蘇聯人決裂。蘇聯和中共在北伐軍內策動殺戮外國人，本來是想斷絕蔣介石投靠歐美列強的后路，誰料卻反而促成了蔣介石徹底反共的決心，實在是搬起石頭砸自己的腳。

1927年9月底到11月初，蔣介石在日本先后與日本首相田中義一，陸軍大臣向川義則等政府要人進行了多次密談。日方要求蔣介石承認日本在滿蒙的特殊權益，履行孫中山生前的諾言（據說孫中山生前曾以滿蒙的特殊權益作為日本援助中國革命的交換條件），蔣介石則要求日本不援助張作霖，支持國民黨統一中國。最后雙方達成協議：日本不援助張作霖，支持反共反蘇的國民革命取得成功，承認國民黨在中國建立政府，并保證向蔣介石提供一筆巨額借款。蔣介石則表示承認日本在滿蒙的特殊權益，堅決反共到底。蔣介石訪日期間還與美國駐日本特使進行了會談，得到了美國“支持以蔣介石為首的國民政府”的許諾，而蔣介石則許諾保障美國在中國的一切權益。蔣介石利用下野進行外交活動，取得了日美等列強的政治和經濟支持，大大增加了他在國民黨中的政治資本。

1927年11月10日，蔣介石從日本回到上海，立即給汪精衛拍電報“負荊請罪”，因為畢竟汪精衛在黨內有相當高的地位和威望，只有得到汪精衛的諒解，蔣介石才能順利復職。汪精衛見蔣介石確有誠意，便于11月16日乘船赴上海和蔣介石商談國民黨各派的聯合問題。但沒想到汪精衛剛一離開廣州，張發奎等人就發動了一場倒桂政變，將桂系在廣州的部隊繳械，隨后又指揮粵軍在梧州一帶和桂軍相持。而中共則乘廣州城內空虛之機，在葉挺、葉劍英的領導下于12月11日發動了廣州暴動（中共稱為“廣州起義”），燒殺焚砸，造成極大的損害。

廣州暴動后，全國嘩然，聲討之聲一片，張發奎等人見眾怒難犯，均宣布辭職前往香港。而蔣介石和西山會議派，以及桂系軍人則借機攻擊汪精衛，說他和張發奎等人勾結共產黨，蓄意制造了焚殺廣州事件，甚至說汪精衛本人就是共產主義分子，搞得汪精衛百口莫辯。接著，南京特委會要求查辦汪精衛，白崇禧甚至找上海青幫頭目杜月笙下綁票暗殺汪精衛。雖然后來查明廣州事件和汪精衛并沒有直接關系，但汪精衛作為廣州政府首腦卻也難逃責任，于是汪精衛于12月16日發表了引退聲明，和夫人陳璧君一起前往法國。

汪精衛走后，國民黨中已經沒有人能制約蔣介石了，蔣介石獨攬大權。1927年12月28日，南京中央特別委員會宣告結束。1928年1月4日，蔣介石回到南京，9日宣布復任國民革命軍總司令。2月2日，國民黨二屆四中全會在南京召開，黨內各派統一在蔣介石麾下，使持續了半年之久的國民黨黨內斗爭暫時告一段落，會議還明文取消了孫中山在一大時制定的聯俄容共三大政策，凡因反對三大政策而被開除黨籍的人一律平反。這一次，蔣介石接受了以前搞獨裁引起黨內強烈反對的教訓，特別注意不給人造成獨裁的印象：蔣介石本人只担當軍事委員會主席，國民政府主席則由譚延闿出任；同時，蔣介石還建議除南京中央政府之外，在廣州、武漢、開封、太原建立四個政治分會，以互相監督，李濟深、李宗仁、馮玉祥、閻錫山分任四個政治分會主席。3月，蔣介石出任中央政治會議主席。

至此，蔣介石走上了中國權力的巔峰，而此間還發生了另一件對蔣介石今后政治生涯十分重要的事情，那就是蔣介石與宋美齡在1927年12月1日結婚。宋家是民國時期的一個聲名顯赫的家族，宋嘉樹（宋耀如）曾資助過孫中山早期的革命，他的三個女兒也都是當時中國最具傳奇色彩的女性，素有“宋家三姐妹”之稱。三姐妹中，大姐宋藹齡愛錢，嫁予山西富豪孔祥熙，二姐宋慶齡愛國，嫁予革命領袖孫中山，小妹宋美齡愛權，嫁予了野心勃勃的蔣介石。蔣宋大婚之日，上海一家報紙以“中美合作”為標題，這里“中”是指蔣中正，“美”是指宋美齡，語帶雙關的指出蔣介石的上臺將使中國遠離蘇聯而投向美國一方，而蔣夫人宋美齡日后也將成為中美外交溝通中的一個重要人物。