前文講過，日本方面的目的本是阻止東北內向，破壞中國統一，但是他們卻用錯了方法，反而將東北推向了國民政府一方。奉系統治東北十六七年，根深蒂固，日本人炸死張作霖后，在整個東北，聯日者便是奉系之敵。對奉系來說，日本軍閥是他們不共戴天的仇敵，所以私仇公義，奉系都只有一條路走，那就是歸順國民政府。張學良出任東三省保安總司令后，東北內向和易幟的時機就已經逐漸成熟了。

1928年7月1日，張學良致電北平國民革命軍司令部，表示出希望和平和不妨礙統一的誠意，還派專使由海道赴北平面見蔣介石，商討統一辦法。最后，雙方商定東北三省及熱河于1928年7月22日一致易幟，條件是確保張學良在東北的統治權力，任命張學良為東北政務委員會主席，熱河劃歸東北范圍。不料到7月18、19兩日，奉天日本總領事林久治郎出面強行干預，張學良迫于日本的壓力，只好暫時中止。

雖然東北暫時沒能易幟，但張學良卻已下定決心歸順南京政府，于是尚駐于關內的奉軍余部陸續出關，只有張宗昌、褚玉璞還在灤河一帶盤踞。7月15日，蔣介石下令討伐灤河一帶的張宗昌直魯軍殘部，任命白崇禧為前敵總指揮。隨后，蔣介石又傳令白崇禧，讓他將軍隊在天津一帶集結待命，等待張學良派人與張宗昌、褚玉璞商議改編之事；然而，當時直魯軍有日本暗中相助，日本還同時不斷威脅張學良，要其與南京方面對抗，因此張宗昌方面毫無停戰歸順的誠意，甚至還不斷增兵，大有襲取天津的態勢。于是，關外奉軍宣布保持中立，任由蔣介石處置時局。

在軍隊集結完成后，蔣介石當即下令向灤河掃蕩前進。至9月中旬，政府軍已經占領了唐山、開平等重城，進抵灤河西岸，直魯殘軍則已完全退到河東。這時，張學良又致電政府軍，請求暫勿渡灤河，以免誤會，并承諾將負責解除直魯殘軍之武裝，白崇禧是以停止進軍，暫駐灤河西岸。9月21日，關外奉軍向直魯殘軍發起總攻，張宗昌難以抵擋，遂向奉軍請求停戰。此時，褚玉璞已經表示愿意解除武裝并前往奉天，但張宗昌卻仍不肯屈服，不過他的部隊都已經被打散了，因此不得不化裝潛逃，最后被奉軍俘獲。至1928年9月23日，灤縣一帶的直魯殘軍完全被肅清。

這一期間，日本不斷向張學良加壓，威逼利誘，張學良雖然年輕毫無經驗，卻也不為所動。10月初，南京國民政府任命張學良為國府委員，蔣介石也發密電給張學良，希望他能在這一年的雙十節完成易幟，無奈當時東北內部不穩，奉系舊派張作相和新派楊宇霆等都担心易幟后日本會進行武力干涉，奉軍會被南京政府吞并，失去自主地位，因此張學良也是有心無力。

1928年12月29日，張學良正式宣布東三省及熱河易幟，通電服從南京國民政府，遵守三民主義。隨后，東北懸掛的五色旗即被南京政府的青天白日旗取代。12月30日，南京政府任命張學良為東北邊防軍司令長官，張作相、萬福麟為東北邊防軍副司令官，成立奉天、吉林、黑龍江三省省政府，翟文選、張作相、常蔭槐、湯玉麟分別出任奉天、吉林、黑龍江、熱河省政府主席。不久，奉天省改稱遼寧省，省會奉天改稱沈陽。至此，南京國民政府在形式上統一了全國，存在16年之久的北洋軍閥集團全部覆滅，北伐戰爭的目標全部達成。

東北易幟雖然實現，但東北集團內部并不完全統一，特別是張學良與楊宇霆的矛盾，積漸已久。楊宇霆是奉系新派的首領，張作霖生前的智囊，特別受到倚重，所以也養成了專斷跋扈、盛氣凌人的作風，甚至連張學良這個張作霖的繼承人都不放在眼里；當初郭松齡起兵反奉，曾以“清君側”為號召，針對的就是楊宇霆。張作霖被炸死后，張學良曾到灤州與楊宇霆密談，表示愿意把奉天交給楊宇霆，但楊宇霆卻傲慢的說：我可以跟你父親做事，但不能跟你作事，我們之間看法做法都不一致。

張學良出任東三省保安總司令后，楊宇霆更加驕橫。后來，張宗昌在灤州被國民革命軍擊潰，請求率殘軍退出關外。當時，因東北需休養生息，而且正醞釀易幟，加上張宗昌平素作為，奉方多不滿意，故奉方上下一致反對張宗昌入關。接著，張學良派楊宇霆率兵進攻張宗昌，因為張學良和張宗昌是拜把兄弟，所以楊宇霆出兵前特意問張學良：如果活捉了張宗昌該怎么辦？意思是，如果我楊宇霆把張宗昌捉住，你張學良又把他放了做人情，那豈不陷我于不義之地？！楊宇霆這一問，張學良也很難回答，當時恰有一位軍官在旁極力主殺，于是楊宇霆就問：是不是按他說的辦？張學良點頭答應。萬萬沒想到，在這次戰斗中，楊宇霆還真的活捉了張宗昌，而且還對他說：“漢卿叫我殺你，你趕快跑吧，關外不是你的庇護所。”，張宗昌聽了大為氣憤，逃至大連寫了一封長信痛罵張學良，張學良接到張宗昌的信才知道是楊宇霆有意挑撥。

楊宇霆雖然算是個聰明人，但在皇姑屯事件后卻一直在玩火。他不滿意張學良，輕視張學良，可又在張學良下邊任事，還常在人前人后呼張學良為阿斗。對張學良來說，他掌握東北軍政大權，內有楊宇霆以悍將長輩自居，外又要應付日本軍閥的各種壓迫，所謂“主少國疑”，他如果不“立威”，是無法站得起來的。所以在當時的情勢下，楊宇霆有取死之道，張學良也有必殺之心。

1929年初，有日本人寄贈張學良一本《日本外史》，并用紅筆把豐巨秀吉與德川家康一段史事勾出來，暗示楊宇霆是德川家康，而以張學良影射豐臣秀吉（德川家康是豐臣秀吉的家將，又是權臣）。日本人此舉并非出于對張學良的愛護，而是故意離間，希望張、楊互相爭權，互相火拼，給日本人創造機會，因楊宇霆和張學良都是反日的，都不會和日本勾結。

張學良雖有殺楊宇霆之心，但卻始終沒有下定決心。傳說張學良每次受楊宇霆的氣之后，都恨不得立刻下手殺楊，可總是猶猶豫豫不敢下手，于是就打算擲大洋決定。張學良默禱說，如果三次都是“龍面”，就下手，結果三擲果然都是“龍面”。當然，這只是傳說，事實上最后促成張學良殺楊宇霆的是發生在1929年初的一件事。

1929年1月初，楊宇霆母親作壽，張學良及其元配夫人于鳳至都親往道賀。當天，楊宇霆府上群集東北顯要，張學良進入時，楊宇霆不在家，可是客廳已擠滿了人，大家對少帥的駕臨并不以為意，打牌的打牌，聊天的聊天，張學良于是也參加了牌局。過了一會，外邊有人喊楊宇霆回來了，于是整個客廳都靜了下來，楊宇霆昂然進了客廳，大家全都起立，和對待張學良的隨便完全兩樣。對此，張學良心里當然有點不痛快，但最不痛快的是于鳳至。當晚回到帥府后，于鳳至便對張學良說：“你哪里像東北的主人？楊宇霆才是東北的真正主人，看看他那副德性，他眼睛里面還有你嗎？”。

1929年1月10日午后，楊宇霆和常蔭槐聯袂來見張學良，打算要挾設立東北鐵路督辦公署，由常蔭槐任督辦，并且還寫好了人事命令請張學良簽字，張學良稍作敷衍，推說晚飯后再決定，楊、常遂告辭回家。二人離去后，張學良即部署一切。晚飯后，楊宇霆和常蔭槐再次來到大帥府，張學良讓副官去拿哈密瓜招待，副官去而復返，稱哈密瓜在冰箱，因夫人正在洗澡，不便上樓。張學良便說：“那我自己去拿！”，于是走出老虎廳。大約一分鐘后，突然有衛隊六人持槍步入，大聲說：“奉長官命：楊宇霆、常蔭槐阻撓國家統一，立予處死，即刻執行。”，接著槍聲大作，楊宇霆和常蔭槐未及反抗即被擊斃。

楊常事件后，張學良的權力和地位更加鞏固，而且成功立威，整個東北的軍政人員對他不再有“阿斗”的看法，易幟后的東北政局日趨穩定。