第二军团在海州、新安镇、运河北站附近集中。
第三军团在丰县、沛县各附近集中。
第四军团在单县、城武各附近集中。
第二集团军第一方面军（孙良诚部）在曹县、菏泽各附近。
4月10日张静愚的航空队侦察发现北洋军之铁甲车扼守韩庄、运河铁桥北端，韩庄东运河北岸工事坚固。革命军乃展开攻击，经激战后，攻克禹王山、胜阳山、王母山、车辐山，当晚攻克台儿庄，北洋军向峄县退却。革命军第一军之第一师进占红庙、阎庄等处，第三师占领单庄、沟上之线；第二师进至利国驿，第十军进占庄家场、吴闸子、三叉河。11日占领王庄及郯城。13日占领韩庄、沙沟。
4月14日北洋军作殊死斗，孙传芳在苏、鲁边界丰沛一带反攻，为张宗昌声援。而张宗昌亦亲临前线督部猛攻，革命军奋不顾身，反复冲杀，击溃敌军攻势，占领临城。18日攻入滕县。19日占领邹县及曲阜。20日攻入兖州，围歼北洋军于峄县。
张宗昌所部军队，在安国军七个方面军团中为数最多，但流品复杂，漫无系统，其番号连张的幕僚亦欠明了。迄大战前始将军队裁并改编，除人枪较多者仍保留师番号外，其余编为中将、少将、上校三种支队，名目番号始稍整齐，但实际各军改编者仍不过四分之一，裁撤者仅张敬尧之第二军，余无变动。而各军之编制亦终未划一，每军人数众寡不等，有二三师者，有一师者，甚至所部上兵手无寸铁，亦号称军长者。至各军军长兼任师长，几成惯例。其下属编制亦极紊乱，每连或七八十名，或一二十名，因之战斗力亦殊脆弱。至于孙传芳所部，则仍按北洋军制（按即前陆军部颁订之军制）的成规编配，官兵亦较有历史，较有训练，战斗力颇强；惟自南浔路战败后，士气不振，军实复缺，已成强弩之末。
孙传芳和张宗昌的部队自被革命军于兖州、济宁击溃后，即退集泰安、肥城、济南，而济南的争夺更是中外所最关心的一幕。
孙传芳、张宗昌两部，自惨败退至高吴桥、马坡、泗河、官庄、大厂各附近，又退向博山、泰安，张宗昌打算以泰安天险为恃，企图死守，孙传芳则以五师之众退据肥城，以三个师配备于城外刀山谷、凤凰庄一带，构筑坚固工事和张宗昌军联系，其余两师则归马宝珩指挥，置主力于万德、界首。
蒋中正于民国17年4月23日，在兖州行营综合各方状况，判知张作霖拟借直、鲁联军之掩护，企图向东三省总退却，乃决心使第一集团军乘胜猛追，攻占济南，并期在黄河以南将其歼灭。
4月23日革命军各部队开始行动。25日贺耀祖指挥之第三军团于大舍、大石桥线向店台、长城、大万德、小万德等地攻击前进。方振武指挥之第四军团则向肥城猛攻。其他各军亦向北洋军进击。
5月1日张宗昌、孙传芳以济南陷于孤立，势难久守，乃向德州撤退，革命军遂攻占济南，刘峙进驻山东旧督署。
蒋中正于5月2日下午4时由泰安抵济南巡视，并召集军长以上军官会议，指示地方治安事宜，并令各军驻扎原地待命。同时下达一道重要命令——
“凡张宗昌在山东所设之苛捐杂税，一律蠲除，着各县及各机关不得收纳，此令。”
二五五、日本出兵山东和济南惨案
国民革命军北伐后，国际间的阻挠，其影响不下于在战场上的北洋军。当时万县、汉口、广州、上海、南京都发生了极大的麻烦，而最严重的莫过于日本出兵山东了。
日本出兵山东是田中内阁所经手，这是个极具侵华特性的内阁。
日本田中内阁成立时，正是张作霖在北方准备登上第一把交椅的时候，由于张作霖左右有与田中关系密切的，所以奉张对田中组阁颇为寄望，可是田中上台后，所有表现都显示是一个具有强烈侵华意图的内阁。
16年5月27日，日本田中内阁阁议通过，出兵进驻中国山东，保护日本侨民。
27日9时半，田中入宫觐见日皇奏报：
“以步兵第十联队及六十三队约二千人，与无线电信队五百卅名，自大连乘香港丸出发。部队长是步兵第卅三旅团长乡田兼安少将。前往中国山东省济南市保护日本侨民。”
31日日军抵青岛，6月1日全部登陆，继即前往济南。
5月28日日本政府发表出兵声明，全文如下：
“兹征于中国最近之动乱，尤其征于南京汉口其他地方之实绩，当兵乱之际，因中国官宪不得充分保护，致侨居之帝国臣民之生命财产，蒙重大之危害，甚至见毁损帝国名誉之暴举。因而现下华北动乱迫切之际，难保无再发生此种事件之虞。今也前述动乱行将波及济南地方，就侨居该地帝国臣民生命财产之安全，危惧之念，有不能不措置者。帝国臣民居住该地者，达二千名之多，而该地为去海岸甚远之腹地，到底不能依在长江沿岸各地之海军力量以保护之。因此，在帝国政府为预防不祥事件再发起见，不得不以陆军保护侨民邦人之生命财产。然为前述保护派兵之布置，须要相当之时日，而顾战局正在刻刻变化，故应急措置，决即时自驻满洲部队派遣约二千之兵于青岛。前述依陆军力之保护，固不外为期侨居邦人之安全，自卫上不得已之紧急措置，不惟对于中国及其人民，无何等非友交的意图，而对于南北军任何方之军队，亦非干涉其作战，妨害其军事行动者。帝国政府因自卫上不得已之措置而派兵，但自始无长久驻屯之意图，至对于该地方之邦人无受战乱之忧之虞，当即将派遣军全部撤退。”
日本出兵山东后，中国朝野为之大哗。南京国民政府外交部长伍朝枢向日本驻沪总领事严重抗议。北京政府亦表示反对。
南京国民政府外交部对日本出兵山东的抗议电文如下：
“贵国此次出兵山东，声明理由为保护该地之日本侨民生命财产。查山东日侨生命财产有无危险，何属悬揣。国民政府迁都南京以来，迭次宣言，对于外人生命财产，按照国际公法竭力保护。乃本政府北伐军队将到山东境内之时，贵国政府突有派兵山东之举，于公法上既无根据，于本国领土主权复有妨害；本政府不得不提出严重抗议。并声明：如因此发生意外事故，贵国政府应负完全责任。年来中日两国国民感情日臻融洽，倘由此次举动顿起种种疑感，足为好感之障碍，殊属可惜。应请贵国政府将已派出之军队即日撤退，是所切盼。”
北京方面，5月30日下午4时，张作霖亲往日本驻华使馆拜访日使芳泽，询以出兵事件，芳泽即口头通知出兵原因。张云：“此事殊不好办，目下北方情形外侨并不危险，且汉口、南京方面发生大麻烦，日本都未派兵，却在本人势力下的北方派兵，极易引起误会。并足以使外间怀疑日本出兵系奉方所运动，故本人郑重请日本政府考虑。”
当天下午5时，芳泽赴北京外交部正式通知“出兵事件”。略谓：中国时局不定，徐州以北已有随时发生变化之可能。前在宁汉事变，侨民受损实多。今兹情势亦有发生可能。查日本侨民在青岛者达两万，沿胶济路者约八百，在济南者约两千，在目前局势紧张之下，日本侨民殊有不能不从事防卫，且有采取有效之手段，因此日政府于满洲抽兵赴鲁，出兵目的纯系自卫，与南北军事无涉。如将来时局安定，日兵自必立即撤退，希望中国谅解。顾维钧当即表示：日本此次出兵有违常轨，易引起误会，且日侨现状平安，殊无增兵必要。芳泽告辞后，顾即命人预备抗议照会，6月1日北京政府向日使馆提出抗议照会，全文云：
“为照会事迭据驻日张代办报告，日本政府决定出兵中国北方，数约二千名，并准山东张总司令电称……等情。查山东内部极称安静。关于保护各国侨商，迭饬妥为办理，近数年来，青济侨商，实无因我国军事影响，而稍有妨害其生命财产之事，况济南青岛，与上海汉口等处有租界者，截然不同。乃日本政府突然派兵来华，不惟侵犯中国主权，且易引起人民误会，除派员就地交涉外，请向日使提出严重抗议，务使完全取消各等语。正核办间，续准贵公使来部面称本国政府为保护侨民起见，特派军队赴青岛，如有必要，并拟进驻济南，事平立即撤退等因。当以此种逾越寻常之行动实无理由。中国政府实难缄默等语，奉告贵公使在案。查青岛地方，自照华府会议协定交还以来，系属完全中国领土，义当切实尊重。且自贵国军队撤退以后，地方官维持治安，不遗余力。外侨生命财产，无不备受保护。近年虽各省时有军事，而在鲁外侨，从未受丝毫影响，殊无派兵保护之必要。此次贵国政府，不先征求中国政府同意，突然派兵来青，且欲相机赴济南，不能不认为违背条约，侵犯主权之行动，至深遗憾。现在山东地方民情已甚愤激。倘因此引起全国人民之误会，中国政府不能负此责任也。为此提出正式抗议，照会贵公使查照。请即迅予转达贵国政府中止派兵赴青，其已开到埠者应令勿遽登岸，从速折回，俾免引起纠纷，而影响于两国现有亲睦之邦交。切盼见复为荷，须至照会者。”
这次日本出兵山东，停留时间并不久，16年8月中旬起即陆续集中青岛，准备撤退。8月21日先有日军300名搭台中丸回国，根据9月3日张宗昌的山东督办公署给外交部的咨文，叙述日军撤退经过文如下：
山东督办、省长公署咨行事，据胶澳商埠局总办赵琪呈称，窃据警察厅长王庆堂呈称：本年九月七日奉钧局第一零四零号训令内开，顷奉保安总司令张、代理省长林微电内开，东电悉，日军撤退，此间亦据日本方面通告，当即转电国务院外交部查照在案。嗣后青岛各国侨商，应即饬属随时加意保护，所有日军撤退情形，仰仍具报察核，特复等因。奉此，合亟令仰该厅转饬所属，嗣后青岛各侨商，务须随时加意保护。并将日军撤退情形详细具报，以凭核转，切切此令等因，奉此，遵查胶济路沿线所驻日军，于八月中旬，即节节移动，集中青岛，以备撤退，均经随时报告在案。
八月二十一日，先有日军第十师团及第十四师团三十三旅团各部兵士三百余名，搭台中丸回国。
八月二十七日，又有三十三旅团第十联队兵士七十三名搭台中丸回国。九月六日，第十师团兵士五百余名全副武装，携大炮八尊，子弹二千箱，大米二百包，马一百四十余匹，马车一百四十件，搭龙凤丸回国。
九月七日，又有日军第十师团司令部长谷川中将，带随员八十七名，第八旅团司令部中岛少将，带随员十名，率领步兵全部计一千零九名，马五十一匹，由二号码头登台中丸。
又有日本输送指挥官天野大佐，带第十联队全部官兵计一千零八十七员名，随带机关枪五架，高射炮一架，无线电机车三辆，马三十二匹，亦由二号码头登春华丸。所有给养物品，均系于本月六日经该军运输部用载重汽车由大港路山东仓库起运，分装该台中、春华二轮，计子弹各军用品、大米、马草等物约三千余件，于六日先期登轮。
九月八日，又有日军三十三旅团六十三联队乡田少将，带随员步兵及铁道队、电信队、兵士共计一千五百一十名，马三十八匹，给养马草、子弹共约一千余件，由二号码头登原田丸回国。
同日，又有三十三旅团六十九联队指挥官伊木少佐，带步兵八百七十五名、马三十一匹、并给养马草、大米、子弹共约一千余件，由二号码头搭神瑞丸回国。当各军登轮时，本埠军政各机关及日本商学各界约一千五百余人在码头欢送，并经厅长带同长警多名，在码头照料，均属表示亲善。现已撤退完竣，除通令各署对于各国侨商，随时认真保护，免贻外人口实外，所有日本陆军撤退情形，理合具文呈报。仰祈鉴核转报，实为公便等情，并据港政局报同前情，除分呈外，理合备文呈报，仰祈鉴核等情，到署。据此，除指令并饬特派交涉员查照外，相应咨请贵部查照为荷。
督办山东军务善后事宜张宗昌
代理山东省长林宪祖
日本政府的撤兵声明如下：
“帝国政府鉴于山东地方不靖之情形，为保护本国侨民起见，先行暂派军队，前往青岛。果然该地方将为南北交战之区，胶济铁路沿线地方扰乱之危险，日见切迫，故不得不令派遣军移驻济南。惟虽有此扰乱，所幸迄今能保护日侨，而不致于发生何项不祥之事案，是则为本国出兵之效果，山东地方之事态，略为安定，暂时无若日侨受战祸之处。为此帝国政府，应照当初声明，兹定即行撤兵回国，将来在中国各地方，不但山东地方，而日侨众多之处，若有治安不靖，战祸再波及日侨之虞时，帝国政府又不得不讲机宜自卫之措置，特此慎重声明。”
北京政府外交部山东特派员陈家麟呈外交部文如下：
“为呈报事，窃查前因鲁省时局不靖，日本政府竟借口保护侨民，特遣派日军分驻青岛、济南以及沿路各县，迭经交涉禁阻，迄未中止进行，一切详细情形，前已备文呈报在案。兹因日前虽有战事，但经我方当局竭力保护，所有日侨均获安全，并未受有若何之损失。刻下鲁省时局已日趋缓和，实更无驻兵保护之必要，经即迭向日领提出抗议，敦促退兵。九月一日始准该领正式函复，已允即日撤退。计自本月三日起至六日止，所有前派驻扎济南各日军，均已陆续退出。嗣复经详确调查，日前分驻青岛以及沿路各县各日军，亦均一律撤尽，除已分别呈报外，理合备文呈报钧座俯赐鉴察。实为公便。再前因分途调查，致稽时日，是以呈报稍退，合并陈明。谨呈外交部长王。
特派山东交涉员陈家麟”
当孙传芳率兵南攻时，日本以为革命军势不能再北攻，所以宣布撤兵，不料孙传芳惨败，蒋中正复职北伐，前后不过一年，革命军再度逼近济南。日本乃又借口护侨，先以驻华北的三个中队，占领胶济路，然后日本内阁会议决定派遣第六师团进兵山东。第六师团长福田，是个骄横的军人，他率领5000名士兵乘船由青岛登陆，于5月1日开进山东，山东重要城市青岛、济南、龙口、烟台均为日兵进驻。
日军开入济南是5月2日，而革命军攻克济南却是先一天，于是迫使日军和革命军正面冲突，发生了最丑恶的“五三事件”，显露出日本军阀无耻万恶的罪行。
五三惨案中，以日军残杀中国驻济南外交特派员蔡公时最为可恨，蔡公时殉难经过，有他的勤务兵张汉儒从受害的行列中逃出后，所叙情形如：
“五月三日晨，日兵在领事馆一带布置防线，交通即为断绝，九时许，有国军一队，进驻交涉署对面之基督医院内，为日军瞥见，即开枪射击，毙我兵士、伙夫各一名，该队为避开凶焰，乃停止搬运，纷纷藏匿医院之楼上。此时适有一日兵于涉署门首，向医院上射击，同时又四面发现枪声，而该日兵忽为流弹击毙，旋另一日兵赶来，意在救护该已死之日兵，亦被击毙，而各处枪声复大作，弹下如雨，全署员役均慑伏楼上不动，延至下午三、四时顷，枪声稍止。街衢发现类似各领馆之汽车，车前皆竖旗帜，驰驱往来，形似劝止日军停战，时枪声亦告沉寂，但见日兵满布街头，交涉署门前亦有日兵往来梭巡，我外交特派员蔡公时，因事出意外，命人出外探听，竟为日军所阻，当派员与之交涉，迄无效果，乃蛰居楼上，静候时机。延至天晚，日兵仍防止交署如故，全署人员，纷纷计议，始终不得要领。时届夜分，正各自就寝，忽捣门之声大作，势极凶猛，传令奔告日兵撞门，请示办法。蔡主任谕令开门延入，讵日兵不俟开门，已破门而进，计约二十余人，内有一佩指挥刀、一擎盒子炮之两军官，更有一着西服者，进门后，即指挥剪电灯、电话，全署顿成黑暗，而彼则携有手电筒探照，此时着西服者操中国语，大意谓予等为搜查械弹而来，实因日间被枪毙死两日兵，必系尔署内所为，故来与尔主管官理论。
蔡主任闻言，即出为解释，大意为日间所毙日兵，确系为流弹误伤，我等外交人员，从不携带枪弹来办外交，贵部队似可不必搜查，免滋纷扰，讵彼一味蛮横不可理喻，坚持非检查不可，此时蔡主任既穷于抗辩，姑允所请。奈彼寻衅心切，又作进一步之强迫，谓必须将全署员役捆缚搜检。蔡主任以国体攸关，不予承允，乃彼竟恃强横，谓若不承允，将行强迫捆搜。蔡主任见其无理可喻，勉为应允，旋即郑重声明，谓如搜查后不获证物，仍应速请解缚，恢复自由，彼伪为许可。由是除蔡主任外，全署员役，均被捆缚，旋复翻箱倒笼，到处搜寻，但迄未获一枪弹，乃攫取署中公牍五大包，势将携出。蔡主任乃请彼如约释放所缚员役，讵彼反大肆咆哮，谓我等奉命而来，非奉命不能释放，言毕相率携公文而出，但不半时许，彼复来署，仍执前说，谓日兵确系署中枪杀，非交出枪弹不能了结。
蔡主任对之复解释如前，且云署中已经搜查，绝无凶器可以证实，我国决无枪杀贵国士兵之嫌疑，贵部队应考查其真象。言毕仍请如前约释放员役，以敦睦谊。讵彼全不理会，并令将蔡主任一并捆缚。
至此蔡主任忍无可忍，乃操日语谓：‘汝等不明外交手续，一味蛮横，此次贵国出兵济南，原系保护侨民，何得借隙寻衅，肆行狂妄，作种种无理之举动，实非文明国所宜出此。至如已死之日兵若果系敝署所为，亦应由贵国领事提出质问，则敝国自有相当之答复，何用汝等哓哓不休耶？若汝等果系奉贵国领事之命令而来，则本人即至领事馆交涉，亦无不可。’语毕，日兵即大哗，旋复将捆缚之员役，排列为一半圆形，而惨无人道之日军官，即今日兵以刺刀对所缚诸人之头部肆行砍剥，须臾，诸人断鼻缺耳，血肉模糊，其状惨不忍言。蔡主任目击之下，大声呼号：‘日人枪杀我们了，此种国耻何时可雪？’言罢泪涔涔下，同人闻言，均放声大哭，群相痛骂，日兵益怒，更刀枪拳足，交相并下，尽力侮辱后，复将诸人分三四组拽出屋外，执行枪决。”
以上是张汉儒所目见，当时蔡公时与张麟书及周某、姚某等为第一组，首先殉难，而缚于第二组的勤务兵张汉儒，在忙乱中由案上跌地，拾得剪刀，乘黑暗剪断束缚，乘机逸出，奋勇登高，连越四墙，才落在一个空地上，该地有一空水桶，张于惊惧之下，即伏桶内，不久天明，张正无计逃出防线，遥闻小车声远远而至，伸领探视，系一推水之苦力，乃待其近前，张即对之略述昨夜之经过，求为援救，苦力亦泪滢滢允为设法，张探手衣袋内，尚有五角，以授苦力，易其短衫一件，更换血衣，始出桶外，冒充推水的人与苦力拉车，绕道混出防线，即奔往各官署，报告蔡公时被难情形。总司令部闻讯后，即为张摄制受伤照片，以作日后交涉的证据。
日军惨杀中国外交特派员及其随员后，又转向中国外交部办公处行凶，勒令中国军队缴械。当时国民政府外交部长黄郛亦在济南，蒋中正即嘱黄就近交涉，毫无结果，黄郛随从护兵所携带的步枪26支亦被缴去。黄郛乃急电日本外务大臣田中，请立即制止日军暴行，并撤退驻兵。5月4日上午英、美驻济南领事出面调停，形势略转缓和，可是到了晚上，日军复行射击，福田师团并由青岛增防济南，更不断以飞机大炮轰击济南驻军和无辜人民，革命军驻扎五大马路纬一路广东会馆之第四十军第三师之第七团，及驻小纬路四路之第卅七军第一团，与纬一路北首王店，津浦路第一区警察全被日军缴械，被俘徒手官兵1000余，拘禁正金银行，断绝饮食，不准坐卧。至5月7日，福田更向革命军提出如下之条件：
一、国民革命军须离开济南及胶、济路沿线两侧20华里以外。
二、中国军队治下，严禁一切反日宣传，及其他之排日运动。
三、与骚扰及其暴虐行为有关之高级军官，加以严重处罚。
四、在日本军前面与日本军抗争之军队，解除其武装。
五、为监视实行上列各条件起见，将辛庄、张庄两兵营开放。
上述条件，日方限当晚12时前答复，否则即行攻城。蒋中正以条件太苛，遂于5月8日晨，交由战地委员会主席蒋作宾派员向其交涉，申明所提离开铁路沿线一条，影响北伐军之行动，难以接受外，余可考虑协商。交涉卒无效果，复于当日上午派熊式辉、罗家伦遄往日军司令部谈判，亦无结果。福田旋即开始攻方医院与其他各处疗养之伤病官兵，抢劫公司商店，破坏黄河铁桥及新城兵工厂，并向革命军泰安总司令部轰炸。5月9日蒋再派何成浚全权代表赴济谈判，几经波折，始抵达济南，福田仍坚持前提五条，且扩大对中国军民之屠杀与轰击。因此留济南警备的革命军，乃于5月10日夜11时半，在被迫状况下，暂时退出济南。在这次惨案中中国伤亡军民约110062名，新城兵工厂之损失，在600万元以上，其他更无法统计。（此案一直延至民国18年元月23日，日使芳泽来华，经过五次之谈判，始正式签订协定撤退日兵。）
二五六、光复北京
当国民革命军攻占济南后，张宗昌在山东的根据地遂告丧失，张作霖乃下令北洋军全线退却，从新调整防线，以德州、顺德为第一道防线，以沧州、石家庄为第二道防线，以马厂、保定为第三道防线。至于在直隶省境津浦线的正面则以孙传芳军位置于大城及其以西地区，张宗昌军及王琦部据守沧州附近。
济南惨案发生后，国民革命军为了避免和日军冲突，乃于17年5月4日将革命军主力撤至莱芜、中宫、齐河。5月6日革命军第九十五师渡河进占晏城镇，9日占禹城，11日占恩县，13日占德州。
德州被革命军占领后，北洋军分三路向沧州溃退，革命军全线追击。张宗昌的骑兵和白俄兵千余名以及钢甲车五列在沧州集结，企图死守沧州、保定一线，孙传芳军一部守庆云、盐山，褚玉璞部守沧州西区，于学忠、袁振青、窦联芳各部守杜生镇和沙河桥，奉军第三、四方面军守高阳、保定，张作相在天津、马厂间，汲金纯在高碑店附近。
5月31日北洋军沿津浦铁路分三路反攻，左翼由褚玉璞指挥徐源泉及张骏部，中央由张敬尧指挥陆殿臣及毛思义部，右翼寇英杰部分别反攻。
北伐军力却强敌，转守为攻，6月1日革命军第四军团方振武部攻击前进，占领张庄、李福台等地。第二军团陈调元部占领南皮、燕台、大安庄等地。6月2日晨北洋军分向望海寺、雷庄、马厂附近溃窜。革命军遂攻克沧州。
平汉线方面张作霖集中戢翼翘、高双英、万福麟、窦联芳等部于磁州一带，准备反攻彰德，并在保定、石家庄一带配置重兵。早在17年3月7日国民革命军第二集团军总司令冯玉祥由兰封移驻新乡就近指挥彰德军事，令鹿钟麟兼任北路军总司令，孙连仲率第十四军、廿三军、骑兵第一军增防彰德。4月5日彰德之战开始，反复鏖战，战况惨烈，相持20余日，4月29日革命军开始反攻，全线出击，北洋军张学良亲率其卫队前来督战，这时济南已被革命军占领，北洋军乃破坏漳河铁桥及铁道电线向顺德溃退。5月8日韩复榘军占领顺德，5月11日进抵石家庄。
国民革命军第三集团军总司令阎锡山亦于苦战雁门、五台、繁峙、井陉后由平山出击，发动全线猛追，直出石家庄、方顺桥、保定，震撼了北京城。5月15日阎军抵方顺桥，方顺桥在保定西南，望都东北，为京师门户，阎军在方顺桥集中待命。
17年5月15日国民革命军第三集团军阎锡山部先后抵达方顺桥附近，分为左右两路部署：以商震为前敌总指挥兼左路军总指挥，辖第一路丰玉玺，第二路张荫梧，共八个师；以徐永昌为右路军总指挥，杨爱源为副总指挥辖十四个师。
5月25日右翼方面受到北洋军由高阳、河间调集大军向定州、清风店一带猛攻，使杨爱源之第二军遭受极大伤亡，不得已退据东亭和安国，27日北洋军向永丰镇及王家庄猛攻，前线陷于危险境地，阎锡山一面令前线部队坚守待援，一面飞调定县、石家庄之预备部队绕出敌后，28日遂解永丰镇及王家庄之围，并向阳城、天台寺、郑家庄、张登镇追击，31日北洋军全线总退却。
左翼方面5月17日冯玉祥所部的郑大章骑兵军突然全部撤退，阎锡山即电询冯玉祥，冯复电云：“据京津特别侦探报告，京汉线上敌力尚厚，我军此时似宜合京汉、津浦、京绥三路统筹进兵计划，各路同时并进，以策万全。现因津浦各路军渡河以后遇日人扰乱，后方连络尚未能确实；且各军部署须加整理，其津浦、京汉间残敌极多，京汉方面前进不无顾虑。”等语。由于冯军忽然撤退，北洋军乃利用此良机移动其中路兵力向阎军左右两翼包围，在满城、一亩泉、康关苦战，屡进屡退，至31日左翼方面亦传捷报。
方顺桥会战的重要性因为这等于是北京、天津的大门前一战，而奉军兵力达30万之众，以第三四方面军团为主体，其指挥系统为：
安国军大元帅张作霖，总参议杨宇霆，军事部长何丰林，第三方面军团长张学良，辖第八军万福麟，第十军王树常，第十五军汲金纯。第四方面军团长杨宇霆，辖第十六、十七联合军胡毓坤、荣臻，第廿九军戢翼翘，第卅军于芷山，卫队旅旅长张学成。
张作霖在济南易手时，本拟倡息争和议，愿将所有军队开出关外，不问关内政治，这是奉张一贯手段，他不能忘情于关内，可是形势不利时即率军出关，等待机会，这也是奉系得天独厚的地方，不像皖系直系一旦战败即穷无所归。可是奉张退出关外的拟议忽然变卦，因为有人向奉张建议，革命军战线拉长了，除了冯、阎两军尚习惯于北方气候外，余均不服水土，而冯玉祥善变，和阎锡山之间尚有矛盾，不如坚守京津，以待变局。因此奉张遂欲行又止。
5月19日蒋中正由徐州赴郑州与冯玉祥、白崇禧会商一切，28日复转赴道口及柳卫晤冯玉祥，30日赴石家庄与阎锡山会商。
国民革命军早在17年4月下旬进军鲁南时，即决定会师平津计划，后因济南五三惨案，使第一集团军的进展稍为延迟，而冯玉祥的第二集团军又不肯孤军深入，停留于石家庄——武强——阜城一带，致阎锡山的第三集团军在定县、望都、方顺桥、完县之线独当强敌，死伤万余，阎当时屡电蒋中正和冯玉祥乞援，蒋深知会师之举不容稍缓，乃将南京方面党务料理就绪，即赶赴前方视察，委朱培德为第一集团军前敌总指挥，又电冯玉祥令第一二集团军各军团，于5月25日以前，集结于庆云——南皮——交河——武强——晋县——正定之线为进攻之准备。
张作霖的奉军据守北京、天津及方顺桥附近一带，与津浦路的直、鲁军及孙传芳军连成一气，兵力约40万，其部署情形为：
津浦路方面：褚玉璞部分驻于津浦路之捷地——张高屯一带；其第一线在砖河镇至东西泊头一带，由褚部第六军军长徐源泉指挥，并筑有坚固工事。孙传芳之李宝章、郑俊彦两部驻守庆云——盐山——马厂。
河间方面：袁振青、窦联芳、孙殿英等部在杜生镇——交河；于学忠及孙传芳的主力部队在任邱——河间一带。
高阳方面：奉军第三四方面军、戢翼翘主力及骑兵第二军之大部，在高阳之南滹沱河北岸一带，筑有坚固之防御阵地，其第一线在蠡县、博野附近。
平汉路方面：汲金纯军防守高碑店至易州一带。
平绥路方面：奉军高维岳之第九军，汤玉麟之第十二军，郑泽生之第卅一军于5月11日以后由朔县、马邑开始撤退至柴沟堡、大同，继向东北方退却。
5月19日，蒋中正抵郑州，与冯玉祥会商。
北伐军沿平、汉，津、浦两路进展之部队，虽已逼近沧州、保定，而两路中间隔离约200余公里；北洋军在高阳、河间，均配置重兵，饶阳、武强之北洋军亦尚未肃清，平、汉路以东，饶阳以西地区，革命军尚无部队驻守，如北洋军乘隙进袭，深为可虑；蒋中正遂决定俟第四集团军先遣军到达石家庄、定县之线时，即将鹿钟麟之北路军全部（韩复榘部在内）移至平、汉线以东地区，与刘镇华所部衔接，然后全线同时进攻。
国民革命军自5月28日开始总攻，至6月2日，先后占领保定——高阳——肃宁——河间——沧州之线；北洋军退据琉璃河、固安、永清、胜芳、马厂一带，革命军乃分路追击，第一集团军由津、浦路两旁地区前进；第二集团军由任邱、文安、雄县、灞县前进；第三集团军由平、汉路前进。当5月29日，蒋中正到柳卫（在道清路）时，为军事进展及避免外交上纠纷起见，曾与冯玉祥会商妥善办法，至是，遂令前方各军于破敌之后，即进至静海——胜芳——永清——固安——长辛店之线，停止待命。
5月30日，蒋中正到石家庄，与阎锡山会商京、津善后，并视察战况，停留石家庄，31日午后10时左右，颁发各军追击令。
17年6月6日张宗昌、孙传芳所部纷向天津东北退却，张作霖已于6月3日离开北京，北京城治安由北洋元老王士珍等维持，革命军第四军团第四十一军九十一师进驻大邵庄及张庄；第九十二师驻二蔡庄、盖宿铺一带；军部进驻大邵庄；第三十四军第八十八师驻大小流标、小庄；九十五师驻西空城一带；九十师及胡正卫团进驻马厂；第三军团第二十七军驻惠丰村、五面城子、赵济庄等处；第四十军到达清水泊、萧吉沽、东槐庄一带；第三独立师在大李庄、李官庄、十槐村等处；总指挥进驻李云龙屯，第一方面军第三军第十九师吉鸿昌部，于是日早到达静海；第五十六旅进至良王庄；五十五旅进至静海北十里堡待命；第二师于夜12时出发，进驻王口镇、陈土桥、中滩里、前万头一带地区，集结待命，并派一小部到黄岔、台头，对天津方面警戒。
6月7日革命军第四军团方振武进抵独流，其第三十四军军部进抵马厂，该军奉令开驻良玉庄、独流镇、杨柳青、胡村一带整顿待命；总指挥部进驻沧州县城。孙良诚接到消息革命军韩复榘已进占南苑，张宗昌、褚玉璞部之徐源泉、孙殿英等所率残军约3万人，麇集天津老站，并各有一旅，被法、日各国使馆驻军监视，不令下车进街，天津市区内甚为安静。张宗昌、褚玉璞已逃向秦皇岛；郑大章骑兵军已占领武靖、三河；刘镇华部已到达通州。
6月12日，孙良诚命骑兵在胜芳附近对天津警戒；第二十一军主力驻灞县，一部驻新镇县；第十九师移驻文安；第二师进驻任邱；第四军仍驻大城；第十八师移驻河间待命。
当北伐军第一集团军第二、第三、第四各军团占领沧州后，逐日向北追击前进，迄6月3日，第二军团第二十六军，由沧州、张官屯沿铁路前进；第三十七军沿铁路以东地区前进；第三军团（欠第四十军）在第二军团右翼之地区前进；第四军团在第二军团之左翼，沿运河以西地区前进，这时北洋军右翼占据大流标、王镇店，依托子牙河正面，左翼占据西魏村——马厂至铁路之线。朱培德探悉敌情后，遂令各军团追击前进。
各军团奉令后，随即开始运动，6月5日到达前线，占领指定阵地，正拟攻击，北洋军忽自动撤退；这是因为北洋军后方被席液池骑兵军威胁，恐后路被截，即纷向天津一带退却。革命军沿津、浦两旁地区跟踪追击，至静海以南地区停止待命。
6月5日晨，北伐军骑兵第二军到达静海南面的孙家庄东南柳木杓附近集结，第二十一军的张兴科师，亦由后跟到，即协同攻击占据孙家庄东南柳木杓一带之北洋军。骑兵第二军，除派一团进占独流镇外，余部均渡过运河，向静海车站攻击。当时马厂的北洋军自动退却，官兵均无斗志，革命军遂将防守车站的北洋军钢甲车击退，于正午占领静海，北洋军向王庆陀，杨柳青、北仓等处溃退，一部分打算通过天津租界。
6月6日晨，骑兵第二军仍向小站追击前进；第二十一军由台头、胜芳向信安镇、狸狼城方面前进；第四军在黄口镇；第十九师在静海停止待命。
北伐军第二集团军自相继占领河间、肃宁、高阳后，北洋军于学忠、孙传芳、窦联芳、戢翼翘、万福麟等军，均纷向灞县、宝坻、固安、永清、胜芳一带退却；北路军跟踪追击。6月6日午奉军马占山部千余名被歼，韩复榘于占领固安后，即向廊房前进，以截断京津路交通，并向北京前进，下午4时前锋李汉章旅到达南苑，北京民众均到南苑欢迎。
北伐军第三集团军自占领保定后，总指挥商震即决定沿京汉线追击前进。奉军自保定、沧州等地败退后，主力集结于琉璃河——固安——唐官屯之线；孙传芳、于学忠之强大部队控置于灞县；张宗昌、褚玉璞之直、鲁军，据守大流标——马厂——惠丰桥之线，仍图保全北京、天津地盘，作最后的挣扎。灞县孙传芳忽然撤退，张作霖见势孤力蹙，无可挽救，故不得不实行全线总退却。
民国17年6月2日，张作霖下令总退却后，即偕同黑龙江督军吴俊升，及参谋杨毓珠等，携带重要文件，乘专车回奉。6月4日晨，火车到达沈阳城外日本租界地之沟帮子铁桥时，为日人阴谋所埋置之地雷突然爆炸，张作霖受重伤，吴俊升炸死，重要文件亦被毁灭，张作霖因受伤过重，延至6月4日上午10时亦告毙命。
张学良在北京闻乃父噩耗，即急电回奉各将领，约束士兵，维持治安，并饬顾全外交，勿令外人借口干涉；一面促使北京各界出面，接洽和平让渡北京办法，磋商结果，留鲍毓麟旅在京维持，待革命军进城交代，然后退出。
天津方面的直、鲁军，闻张作霖炸死，甚为恐慌；张宗昌、褚玉璞急电阎锡山乞降，阎主张容褚拒张。当时败退天津附近之北洋军为数甚众，计于学忠部在杨村，孙奎元部在韩家墅，袁振青部在北仓，徐源泉部在芦兴河，王炼部在杨柳青，许琨部在军粮城，孙传芳的残部数万，亦退集天津附近。孙传芳、张宗昌、褚玉璞在天津召集会议，和战主张未能一致，潘鸿钧最激烈，仍主相博，欲造成第二次济南惨案之重演，在天津、河北一带，挖壕筑垒，配置队伍，借此向商家勒索饷糈；张宗昌亦致函各国领事，谓大军绝食，要求设法，一时形势极为紧张，人心皇皇，各国侨民更无安全保障。
6月4日，奉军既陆续退出北京，国民政府即行任命阎锡山为京、津卫戍总司令，并促早日莅任，维持治安，北京治安维持会及中外人民，均盼阎锡山即日赴京，信使不绝于途。
6月6日上午9时，鲍毓麟旅退出，革命军孙楚部于10时许在民众欢呼声中入城，商震率部随后继至，阎锡山亦于6月8日在保定就职后，于6月11日偕同第四集团军前敌总指挥白崇禧进入北京，主持善后事宜，军阀盘据之北京，这时才完全入于革命军之手。北京之旧称，亦遵政府明令正名北平，直隶省改称河北省。
北平方面虽幸告息兵，天津则尚多顾虑；阎锡山乃呈请政府任命张荫梧为北平警备司令，傅作义为天津警备司令，接洽收编徐源泉、郑俊彦、李宝章等部。天津于北京和平收复时，尚在张宗昌手中，张部与孙传芳、褚玉璞各军，由于沧州以北各地为革命军第一、第二集团军压迫，节节后退，集中天津及津东各地，兵力颇众，张欲以此作最后之挣扎，但已是强弩之末，无能为力了；而齐燮元及安福系吴光新等，又欲乘机以款收买这些残军，别图活动。所以天津形势，颇为纷乱，幸军阀败军中有觉悟者如徐源泉等均弃暗投明，张宗昌闻各部队投诚革命军，极形愤怒，欲有所对付，当时革命军天津警备司令傅作义与南桂馨出面活动，迫张宗昌、孙传芳、褚玉璞等离开天津，实行收编各部为暂编军，孙传芳乃只身逃奔关外，张宗昌、褚玉璞则率领一部分残军退守津东。
蒋中正对北方大局的收拾，重要的有两点：一是北平、天津交阎锡山负责，二是听任奉军和平出关。冯玉祥对这两点不赞同，曾向蒋中正提出相反的意见。冯部韩复榘军则不受约束，于6月6日擅自开入南苑，并将维持北平治安最后退出之奉军鲍毓麟旅强迫缴械，因此引起外交团多数人士的不满。
蒋中正宣布实践其1月间复职时的宣言，北伐完成即引退，于6月11日向国民党中央提出辞呈，准备告退。阎锡山、李宗仁、白崇禧等高级将领均纷电促请以大局为重，继续领导全国，并恳从速北上。
17年6月14日国民党中央执行委员会决议推蒋中正赴北平祭告孙中山，并视察一切，借便恭移孙中山遗榇来南京安葬。蒋中正以北方问题甚多不便坚拒，遂打消辞意。国民党中央又推阎锡山、李宗仁，参与祭告典礼。蒋中正遂于6月26日偕吴敬恒等由南京绕道河口邀李宗仁同车北上，过郑州时冯玉祥由新乡来迎，车抵长辛店，阎锡山已先在，乃于7月3日偕阎锡山赴北平。
17年7月6日上午8时，蒋中正在香山碧云寺孙中山灵前举行北伐完成之祭告典礼，冯玉祥亦赶到参加，阎锡山、李宗仁、蒋作宾、何成浚、朱培德、白崇禧、陈调元、方鼎英、方振武、魏益三均参与典礼。北伐是孙中山最后的愿望，可是北伐完成了，孙中山却不能亲见。
蒋中正祭告孙中山文如下：
“维中华民国十七年七月六日，国民革命军既奠北平，弟子蒋中正谨诣西山碧云寺，致祭于我总理孙先生之灵曰：溯自我总理溘逝，于今已三年余矣。中正昔侍总理亲承提命之殷，寄以非常之任，教诲拳拳，所以期望于中正者，原在造成革命之武力，铲除革命之障碍，以早脱人民于水火，乃荏苒岁时，迄于今日，始得克复旧都，谒展遗体，俯首灵堂不自知百感之纷集也，方总理哀耗抵粤之时，正中正铲除陈逆驻军兴宁之日，追忆总理‘政纲精神不在领袖’之遗言，不啻对我同志永诀之暗示。中正服务在军，病不能亲药饵，殁不及亲殡殓。惟我父师，不可得复，戒衣雪涕，疚憾何尽？自兹以还，唯以继志述事，痛自策勉，恪遵全部之遗教，益为革命而戮力，三年之间，本党基础濒于危亡者，先后五次，革命势力几于覆败者，凡十五次，而军事危机尚不与焉。每当艰危困厄之来，中正唯一秉遗教、追随先进，勉图靖献，盘根错节，更历已多，洎乎本年中央第四次全会，方克安渡艰难，重现团结。回忆曩时同志在纷歧离析之中，与主义之遭晦冥否塞之会，若非总理有灼然昭垂之遗教，将不知何术以复归于共同？至若横逆之纷然而来，毁谤之无端而集，若非总理有存败不计，与各用所长之宝训，亦几不能力排艰难，奋斗以迄于今日。兹当肃祭灵前，怀过去则抚创而思痛，念未来则临冰而知危。所欲复告于总理者，万绪千端，更仆难尽，已往不追，固不欲琐琐陈述以渎灵听，而来日大难，辄敢以微愿所寄，奉祈昭鉴，谨籀其概，为我总理陈之。（中略）
中正海隅下士，未尝学问，得闻大义，追随革命，胥出我总理教诲裁成之所赐。窃见总理遗教，崇高博大，论其精义，实古昔圣贤所未发，中外宏哲所未窥，语其平易，实天理人心所结晶，野老村妇所共解，奚止兴顽振懦之功，实亦为生命建树之本，今当建国伊始，而总理已长辞人世，不复躬亲指导，千钧之责，寄于后死之同志，唯有戮力同心，勉为祖继，以总理之精神，团结本党之精神，以总理之思想，统一全国之思想，国民之基本既立，人民之解放可期，中正自许身党国，久已矢之死靡他之决心，初不意百战余生，尚能留此微躯，诣总理之灵堂，而致其瞻礼。今后有生之日，即为奋斗之年，竭其全力，济以忠贞，成败利钝，未遑计也。灵爽匪遥，唯昭鉴愚诚而默相之。”
蒋中正祭告孙中山后，即留北平处理要公，于7月11日邀集冯玉祥、阎锡山、李宗仁及白崇禧、鹿钟麟、商震、吴敬恒、陈绍宽、朱培德、张群等会于汤山，讨论整理军事方案及军事意见书，以为各集团军一致遵行的准绳。
事实上，北伐虽已完成，可是残局尚待整理，东北问题张学良虽有心易帜，但日本军阀正极力破坏；平津虽告收复，而张宗昌、褚玉璞等残部退扼滦河，负隅顽抗；革命军内部人事亦纠纷迭起。因此各方所最盼祷的是完成国民革命大业，达成统一中国的愿望。
当奉军总退却后，在北平以东地区分布三道防线，以滦河为第一防线，奉军第十军王树常、第十五军汲金纯、第廿九军戢翼翘及于学忠之一部分担任防守；以昌黎、抚宁为第二道防线，由奉军胡毓坤、高双英两军担任防守；以北戴河、榆关为第三道防线，由邹作华的炮兵及于学忠的廿军担任防守。奉军主力在榆关附近，与热河方面的第九、第十二、第卅一各军形成犄角之势。
奉军在张学良领导下决心投效中央，服从国民政府后，虽因日方压力，未能正式易帜，但已决心不与政府军作战，陆续出关。只有孙传芳仍盘据迁安，张宗昌部在滦河沿岸占领阵地，右翼在丰润北方之狼山、菠罗山、庙山、牙窟山一带，企图利用山地负隅顽抗，另于丰润之西卢各庄、安乐庄、王各庄及丰润以南之马各庄、老庄子、韩庄子一带利用村堡，编成据点式阵地，左翼在唐山之西南方，由韩城镇至胥各庄、河头以迄铁路以南地区，构筑坚固之防御阵地，其第一线在丰台、芦台一带。
蒋中正于17年7月15日下令讨伐滦河方面之直鲁军残部，任命白崇禧为前敌总指挥，兼右路军总指挥，下辖徐永昌、范绩熙、李品仙等部队，任命方振武为左路军总指挥，辖徐源泉等军，任命陈调元为总预备队指挥，辖刘镇华、丰玉玺等军。
7月29日白崇禧因天津附近积潦，有碍行军，致各军未能依限集中，乃召集会议，决议将集中完毕之日期，展至8月5日，接着奉蒋中正命令：饬左右两路在集中地停止待命，以俟张学良派员与张宗昌、褚玉璞接洽改编，直、鲁军因为有日本暗助，日且派林权助以参与张作霖葬仪之名赴奉天，向张学良提出二次警告，尽极威胁利诱之能事，故直鲁军毫无悔过自新诚意，并向宁河、丰台、芦台增兵，有袭取天津模样，奉军不得已，乃暂取中立态度，为易帜之准备。
蒋为彻底肃清直鲁残军，决俟各部到达集中地后，即令沿平、榆大道两侧，向滦河扫荡前进，至8月18日，总预备队第三十七军及独立第三师，开赴宁河、丰台镇集中，归右路军总指挥白崇禧指挥，刘镇华之一部，亦已开赴宝坻地填防；第二集团军骑兵第一军郑大章部，改向宁河东北之王大庄前进，与鸦鸿桥集中之第三集团军孙长胜骑兵师连络。
直鲁残军第七军军长许琨，在宁河、丰台、芦台一带指挥拒阻政府军前进，8月25日，政府军右翼军徐永昌部，占领北塘至河北之线，一部在淮满淘一带与中央军范绩熙部联系，同时占领马庄——黄庄镇——北强庄——葫芦沽——东园之线，与直鲁军对峙；总预备队第二集团军刘镇华之一部，进至宝坻，主力在杨村，第三集团军谢濂所部在顺义、西苑一带待命，9月4日丰台、宁河、芦台之直鲁军已有退却模样，9月6日直鲁军忽撤退至老庄子、韩城镇、胥各庄一带之预备阵地；丰润北方之山岭，直鲁军陆续增加，似有于该处决战企图，9月7日，中央军主力进至宁河、丰台，一部进占塔慈庄、崔成庄——大韩庄——西棘坨之线，右翼军进占芦台、杨家泊一带，准备于9月8日拂晓沿平、奉路攻击前进，与左翼军联系，白崇禧因左翼军与中央军之间，兵力甚形薄弱，即令总预备队第十二军、第三十六军，迅速开赴前线，归左翼军李品仙指挥，担任进攻韩城镇、老庄子之敌，与左翼军及孙长胜骑兵师联络，向唐山、开平迅速推进，以截断胥各庄、河头之直鲁残军，使中央军右翼军进展容易。
9月8日，政府军第十二军到达韩城镇附近，第三十六军到达老庄子镇附近村落，占领攻击准备位置；9日，中央军占领曹庄子——李堡寨——保全庄之线，右翼军进占于家泊——铁匠庄之线，第十二军于拂晓击溃韩镇之敌，正午追至马驹桥——曹家之线，同时，第三十六军击溃老庄子镇之敌，正午追至小马各庄——桃李营——陈庄子——韩庄子之线，直鲁军向龙王庙、开平方向逃窜；其左翼部队在河头、胥各庄一带，本筑有坚固工事，因政府军左翼军已克丰润，沿平榆大道前进扫荡，先头部队已在牛郎山与直鲁军接触，直鲁军侧背感受威胁，故河头、胥各庄等处亦受牵动，纷向乐亭撤退；唐山方面亦因无险可守，乃纷向开平、古冶一带撤退，十二军于午后4时进占唐山；第三十六军向开平攻击前进；白崇禧进抵芦台。
至于政府军左翼军第三十军军长魏益三，自7月15日奉命参加平东战役，即率所部集中平安城镇，先解决盘据遵化之直鲁军，并以约一师兵力，逐渐向前推进；9月上旬，先后奉到白崇禧、李品仙命令，即以所部第一师为右翼队，袭取丰润迤北牙窟山、庙山之敌，以第二三教导师及骑兵团为左翼队，袭取丰润东北方狼山、白蛇岭、菠罗山之敌；魏益三亲率暂编第四师为总预备队，位于大王庄，策应各方。9月8日午前3时，全线向直鲁军猛烈总攻，因其地山岭高耸入云，绵延不绝，形似长蛇，坚如铁壁，直鲁残军复筑有坚固工事，仰攻不易，魏益三以非克复丰润，各友军难以进展，乃督饬各师奋勇进攻，激战数小时，直鲁残军不支，纷纷溃退，遂将各该山岭次第占领；右翼队占领牙窟山、庙山后，俯视丰润城内，了如指掌，即以火力重施压力，左翼队占领狼山、白蛇岭、菠罗山后，并以强大兵力向东南扫荡前进，以收包围之效。
同时，独立第八师刘春荣所部，向高各庄、小王各庄、安乐庄、西魏庄、芦各庄、高力铺、七里屯等村落攻击，直鲁残军利用坚固阵地，节节顽抗，刘春荣督众奋勇猛扑，直鲁残军不支，相率退据丰润城内，闭门死守，刘师即分路进攻西南两城门；第三十军各翼队，亦由庙山等处抄攻东北两门，将丰润城包围，直鲁残军负隅顽抗，经刘春荣挑选壮卒，冒死爬城，直鲁残军旅长于铭钟见大势已去，率队由东门冲出，向榛子镇方向逃窜，政府军遂完全占领丰润城。
政府军第五十军魏益三部及独立第八师自9月8日正午占领丰润后，即分路由平、榆大道，向榛子镇进发。9月9日，第三十军各师，到达牛郎山、板桥、国特营一带，遭遇褚玉璞残部占领牛郎山、椅子山等险要阵地，与政府军相持；政府军刘春荣师在该军右翼扫荡前进。骑兵第一军郑大章所部，在该军左翼前进。政府军第十二军自占领唐山后，即由平绥铁道两旁，追击前进，与第三十六军衔接，向开平前进；9月10日拂晓，第三十军各师在牛郎山与敌激战极烈，亘一昼夜，第三十六军进攻开平，激战数小时，直鲁残军向滦河方面溃退，政府军遂占领开平。第三十军闻第一师进占板桥、国特营，第三师进占牛郎山，向榛子镇追击，新收编之敌军骑兵团，已到黑山沟之线。魏益三以直鲁残军业已溃退，即令第一师向椅子山一带之敌攻击，奏功后，径向沙河驿方向追击；魏并亲率第二、第四各教导师续进。是日拂晓，政府军独立第八师由原地向双桥、栗园、后屯之直鲁残军攻击。郑大章率所部原拟向左翼迂回，绕攻榛子镇直鲁残军之后，李品仙以牛郎山既下，直鲁残军主力集中椅子山一带，即急令郑军由庠子地区向南转至平、榆大道，迅速进至野鸡岗附近，协同第三十军攻击，郑军随移转方向，追击至妙灵山——洼里山之线，协同第三十军攻击椅子山及榛子镇之敌；9月12日下午2时，第十二军会同中央军占领洼里山——吕家坨——周家桥之线，直鲁残军向古冶退却，椅子山、榛子镇、双桥一带直鲁残军亦纷向滦河溃退，政府军左右翼预备队及中央各军，全线追击前进。刘镇华部之预备队一部推进至宁河待命，9月13日，政府军全线向滦河追击前进，右翼军之骑兵，于午刻占领滦县，第十二军亦随即到达，中央军占领张家庄——陈家庄——邵家庄之线并派一部向滦县推进，下午5时左右，到达河西岸史家坎——夏庄子——王家马堡之线，直鲁残军于9月13日完全渡过滦河东岸，占据武山、石门镇一带。9月14日，政府军全线到达滦河西岸待命，准备渡河进攻。
直鲁残军既不服奉方之劝告归降政府，张学良乃电请政府军暂勿渡滦河，以免误会，并允负责解除直鲁残军之武装。
白崇禧乃暂驻滦河西岸静候奉方之解决。
9月21日，奉军下令总攻，直鲁残军力不能支，向奉军请求停战，解除武装，褚玉璞并允赴奉，此时张宗昌虽仍不肯屈服，然所部溃散殆尽，不得已乃化装由朱各庄向滦河东岸下游逃窜，被奉军俘获。9月23日午刻，滦县之直鲁残军遂告完全肃清。
二五七、日本军阀炸死张作霖
17年5月下旬，北洋军节节后退，各国驻华使节已预感北京政府会垮台，而这一次的垮台不像过去17年军阀混战那样，所以纷纷请示本国政府对中国问题的看法。在列强中，日本从“田中奏折”起就决心立即开始侵略中国，因此山东两次出兵，以及济南惨案相继发生，北洋军从山东退至河北后，日方行动亦趋积极，其狠毒面目，日益显露。
17年5月12日满铁日方代表江藤三等向奉张逼签五路协定，交通部长常荫槐无法应付避往天津，交通部路政司长刘景山临时辞职，表示无言的反对。日方既找不到主管的交通部，乃径向大元帅府“逼宫”，扬言如果不给日本完成吉会路诸权利，则张作霖将来出关时即不准经过南满路。张作霖迫于形势，乃任命交通部航政司长赵镇兼次长再兼代部务，令赵与日方交涉。5月13日赵镇偕同满铁代表深夜到部，将敦图、长大两路包办合同盖用部印。可是赵镇兼代部务是从5月15日生效，而合同盖印是13日，又逢星期天，日方认为无效，迫令将合同日期改为15日。这个合同内容双方均守秘密，其后张作霖出关遇炸，全部文件均在专车中同归于尽，据日方宣称所签的合同包括敦图、长大、延海、洮索四路，只余“吉五”一路留待张作霖返奉后再议。
日方不仅逼签路约，同时还计划收缴关内奉军枪械，逼令奉军回奉。5月18日日本政府发出“通告中国南北政府及欧美列强觉书”一件，略谓如果动乱波及满蒙，日本即将在该地采取维持治安的有效措施。
5月20日日本参谋本部下令秘密动员，命令内容为：
（一）驻屯满州各部队，主力向奉天移动。（二）由济南撤至大连的外山旅团改赴奉天。（三）驻满洲日军主力集中奉天。（四）派出劲旅向锦州、义州、山海关、朝阳镇担任奉军警戒。（五）维持新民屯之治安。
日本驻东北的关东军认为这是占领东北的开始，极为兴奋，可是这个命令到了5月23日又发生变化，由于美国国务院表示“东三省行政主权属于中国”的严正立场，遂使日本政府为之犹豫，并派田代皖一郎由东京遄赴东北，口头传达日本政府命令，仍保留张作霖地位和力量，相机待变。这一来让关东军激进分子大为失望，也因此断送了张作霖的生命。
日本“觉书”发出后，美国表示反对，中国作战双方的立场也是一致。
5月25日张作霖答复日本觉书，谓断难承认日本觉书所称“适当有效措置”。声明东三省及京、津为中国领土，主权所在，不容漠视。并负保护外侨责任。盼日本鉴于济南惨案，勿再有不合国际惯例措置。同时发表宣言，指日本此举违背华盛顿会议的立场。
5月29日国民政府答复日本觉书，由上海外交交涉员面交日本驻上海总领事，表示对于东三省的治安问题，以及中外人士的安全问题，均为国民政府自有的责任，对于日方所称“采取适当而有效之措置”，声明万难承认。
同日，日本驻华海军宣布禁止中国南、北海军在青岛、烟台、龙口、大沽、秦皇岛领海各20浬内交战。列国海军武官对于日本海军片面的宣布，且未在“列国海军武官会议”上通过，表示反对。
5月30日晨1时张学良、杨宇霆、孙传芳离保定北上，7时抵北京，孙军放弃保定退往琉璃河，张作霖在大元帅府召集军事会议后即下令前线总退却。
5月31日张作霖准备退出北京，与北洋元老王士珍商量临时维持北京的治安办法。北京政权每次有改变时，这位北洋三杰的“龙”王士珍总是被推选出面维持。北京各国公使团会议应变，日使主张由外兵接管北京城门，美使反对，会议无结果而散。
晋军商震把以前扣留的奉军要员于珍释放，派他赴北京谒张作霖商量和平移交北京的办法。
6月1日张作霖以茶会招待外交团话别。据说日本公使芳泽曾秘访张作霖，劝他接受日本的条件，否则对他不利，如能接受则日方保护张氏经大连返沈阳。这次会议时间很长，站在客厅外面的侍从人员曾听到张氏大声说：“我姓张的不会卖国，也不怕死。”
6月2日张作霖以安国军大元帅名义发出通电，声明退出北京后，政务交国务院，军事归军团长负责。此后国事听国民公决。王士珍等组成北京治安维持会，使馆区晚间宣布特别戒严。
6月3日晨1时，张作霖离北京顺承王府私邸，1时10分抵前门车站，1时15分专车启行，同行有潘复、莫德惠、刘哲、于国翰等外，尚有日籍顾问町野武马与嵯峨诚也。专车过天津，潘复、町野下车，常荫槐加入，专车共18辆，张作霖座车本在第三辆，车过山海关时加入吴俊升专车，因此张的座车排在第四辆。
在这北方局势天翻地覆，张作霖出关的这一天，卸任总统黎元洪在天津病逝。他的去世不为人所注意，因为北方大局正在大变。
17年6月4日晨5时30分张作霖专车进入沈阳皇姑屯，南满路与京奉路交叉路桥下，轰然一声巨响，吊桥桥板塌下，刚好压在第三、四、五辆车厢上。吊桥桥板分为三节，支以石柱，柱外包以钢骨水泥厚六尺，所以如果不是特殊的爆炸物，不可能发挥如此巨大的破坏力，同时火车通过桥下，若非用电流计算时间，亦不可能如此准确。
火车被炸后，现场尸骸枕藉，惨不忍睹，吴俊升登时殒命，张作霖重伤，日籍嵯峨顾问则仅足踝微伤。其他车厢均系随行人员，见张老帅出事，乃迅速抢救，将交道口出事地点警戒，不准人接触现场。并用汽车送张作霖返沈阳。张因重伤，于上午10时去世，享年55岁。但这个消息被封锁，外界完全不知。
根据日本投降后所泄露的各种资料，关于张作霖被暗杀经过，确实为日本关东军所策划及组织。
当时关东军的司令官是村冈长太郎中将，关东军的重要将领认为张作霖是日本控制东北的最大障碍，如果不除掉张作霖，则日本在东北的阻力非常之大，所以村冈乃亲自主持暗杀张作霖。最初村冈曾秘密派遣日本驻哈尔滨武官竹下义晴到北京去执行，但被河本大作参谋窥破，认为北京耳目众多，暗杀工作不易掩匿，所以乃改在张作霖回返东北时发动，即由河本担任行动总指挥，阴谋决定日期是在5月31日后，暗杀地点本拟在京奉路巨流河的路桥，后因这一地区中国军警监视甚严，没有从容布置的机会，因此河本才选定皇姑屯南满路的吊桥为下手场所。由神田、富田两大尉负责勘定地点，由工兵队长管野负责装置电流炸弹，由独立守备队长东宫负责发放电流；由荒木五郎率领行动员准备在爆炸后张作霖不死而临时砍杀。此外日本驻北平武官建川美次和田中隆吉负责调查火车组织与张作霖启行时间，同时派出大批暗探在山海关、锦州、新民屯等地布防。
关于事件发生后的掩饰责任，亦有安排。先由浪人安达隆盛觅得中国失业军人刘戴明，再找到售卖吗啡的中国乞丐三名伪冒凶手，于6月3日深夜带往南满路附属地一风吕浴室洗澡换衣，由日兵押到皇姑屯吊桥下用刺刀杀死。三人中有一王姓在洗澡时乘机逃脱，张作霖被炸后，该王姓乞丐即向奉军报告，说出日方所指两具凶手死尸即两华丐尸体，一风吕浴室主人曾往看尸体，亦向沈阳日本宪兵队证实是曾在其浴室洗澡之华丐。
刘戴明原系孟恩远旧部，民八张作霖逐去孟，刘戴明表示此次系为故主复仇，可是实际则为贪得2万日元的酬劳费。事前河本曾付刘定金1000日元，事后则不认帐。安达陆盛把这件失信事件告诉了他在东京的亲戚工藤铁三郎，工藤把这件事告诉当时的铁相小川平吉，小川报告了首相田中和元老西园寺。西园寺深恐刘戴明被张学良逮捕，泄露了这幕丑事，所以亟命小川偿付酬金，并将刘戴明送至大连，助其开设烟馆。
祸首河本自述当时关东军对于解决张作霖后的继任人选有张学良和杨宇霆两派主张。炸车之日河本曾准备了一队士兵集中南满附属地，因事先没有和关东军参谋长斋藤少将联系，所以被斋藤所解散。事变时关东军竟日以电话询问日本驻沈领事馆，希望准其出兵维持铁路附属地以外的秩序，但被森岛领事所拒绝。当天沈阳日人住宅区曾有浪人投弹一连四次，均因中国方面官吏冷静应付而未发生不幸事件。
沈阳军署于4日午起即和在北京的少帅张学良联络，请其火速返沈，而张学良亦已获悉皇姑屯事变，他当时不过28岁，要应付这样一个非常艰难而又复杂的情事，也真是不容易。当时因为不知道事变的真实原因，虽然怀疑是日本人在幕后制造，却还不知下一步行动。日人既然胆敢谋害张作霖，则也不会放过张学良，所以张学良决心遄程返回沈阳，就不得不采取极其秘密的部署。他化装成一个伙夫，搭乘火车由北京赴沈阳，经过南满路检查站时，步行绕过，再换乘汽车直驶沈阳，径入帅府。在他尚未返抵沈阳时，奉方要人对张作霖之死秘不宣布，只发表公报宣布张大元帅重伤，不公布死讯。把张的头部以绷带包扎起来，仅露眼、鼻、口，躺在床上，照样摆了鸦片炉具和水果。日人来访者请其在卧室外遥望，使日人信以为真。
张作霖的遗嘱，仿刘备死后的遗诏，签名则由张学良代签，因少帅能摹仿老帅签名，可以乱真。张作霖的遗嘱云：
“余不幸归途遇险，今病势已笃，殆朝暮间人矣。余自京发从军，早自誓以身报国，今年五十有六，死已非夭，惟是报国之志未遂，不免耿耿尔。今以奉天重任付之学良，望汝善为料理，延聘贤良，修明内政，以慰父老悬悬之望，更望我袍泽同仁，事事以国家人民为重，戮力同心，精诚团结，余身虽死，亦瞑目矣。”
张学良根据这道自己“伪造文书”的命令，就任奉军代理统帅，然后急调嫡系部队星夜返沈。
张学良同时邀请老一辈奉系大将来帅府共商善后。张作相见到他以后又是难过又是高兴，他说：“小六子（张学良的小名）你放心干好了，我们都会支持你。在公的方面如果我们不服从你的命令，你只管拿军法来办我们。可是私底下你还是我的侄儿，如果知道你不好好的干，我会在没有人的时候打你的耳光。”张作相在老一辈奉系中是最有份量的，他这一番话等于决定了张学良的继承权。
6月19日奉天公布张作霖逝世，由张学良继任奉天督办，宣告停止军事，休养生息，万福麟被派为黑龙江督办。
6月24日东三省联合会通电推举张作相为东三省保安司令兼吉林司令，张学良为奉天司令，万福麟为黑龙江司令。
张作相坚不就东三省保安司令，7月4日东三省联合会乃改举张学良，张即日宣布就职。张作霖虽出身绿林，没有读过书，可是深知国家民族大义，他不肯作日本傀儡是他致死的最大原因，因张未能执行所谓“廿一条中有关南满、东蒙古农工业的中日新约”部分。日人虽在北京向袁世凯敲诈成功，但在东北现场，对于张作霖曾经过多年交涉，终未达成所愿。吉敦路虽然修成，而东北本身，亦自修沈海路、四洮路、打虎山路，打通平沈路线（当时叫京奉路），以对付之。至于商租杂居，始终成为悬案。当民国十五六年时期，日本驻奉天总领事吉田茂是著名的日本外交家，某次为中日交涉，曾向张盛气凌人地说道：“你要真不接受的话，日方当另有办法。”张乃反唇相讥地答道：“怎么说！你们有什么好办法，尽管拿出来，难道又要出兵吗？我姓张的等着你的好了！”说完话，就起身送客，吉田弄得很难堪，于是辞职离开沈阳，日方另派林久治郎继任，同时派政友会干事长和鸠山一郎齐名的森恪前往大连，转赴北平，召集会议，面授机宜，由驻华公使芳泽谦吉出面，向张交涉，因为此时张已就“安国军大元帅”之职了。
到了战事不利准备退出关外，张作霖仍不肯屈服于日本军阀的威胁利诱，最后关东军只好途穷匕首见了。
关东军谋杀张作霖后，当时的日本首相田中最为失望。田中所进行的外交压迫已经收效，他压迫张作霖签署了铁路协定，而奉军回师关外亦受到日方劝告。田中认为他的分离满蒙策略假以时日必能实现，却不料霹雳一声，张作霖被炸死，这一来田中的整个安排都受到影响，关东军既然杀死了张作霖，等于逼迫整个奉系反日，因此除了强占东北外，已无他路可走。所以田中深感痛心，愤懑之情溢于言表，曾告宇垣一成和冈田启介，欲将关东军首要分子及暗杀的策划人交付军法惩办。日本元老政治家西园寺也预感军人野心分子胡作非为，横行霸道，军纪为之废弛，若不整顿，前途不堪设想，因此也极为赞成。可是参谋本部和陆军部的中级军官则极为反对，他们认为关东军如此做法是为了日本，其本意实可嘉许，何况迫于客观情势，他们的功劳不能明令旌赏，亦当原谅其用心，不予惩罚，坚持勿扬国耻，最多只给以行政处分了事。执政的政友会也怕事情闹大了予反对党以可乘之机，所以亦劝田中首相含糊结案。
这件公案在日本政府中引起了极大的争论，前后拖了一年多，田中有心振作，却屈于少壮军人的恐吓，最后以“张案经过周密的调查，发现关东军并未牵涉在内”的含糊语句结案，并且呈报昭和天皇。昭和对于田中在张案发生时所报告的和一年后的报告完全相反，前者肯定认为关东军主谋，应该把肇事首犯交付军法审判，后者却说关东军没有牵连在内，前后矛盾万分。因此在览读奏章时大为震怒，且竟佛袖离座，予首相极大的难堪，甚至在退席后余怒未息，悻悻然告诉侍从长说此后不愿再见田中，田中受到天皇这样大的斥责，大为羞愤，乃呈请辞职，几个月后竟因此抑郁而死。
关东军暗杀张作霖的举动虽然没有动摇日本分离满蒙的日本国策，可是田中分离满蒙所选定的对象则因为皇姑屯一炸而需要重新安排。当时曾任张作霖顾问的日本陆军少将松井七夫主张扶植杨宇霆，而日本驻奉天特务机关长则主张拥立张学良，而关东军参谋长斋藤恒看上张作相，刺张的主谋凶手河本大作则拟定张景惠。东京方面对张作霖的继任人选没有积极的主张，不过东京方面有一个原则，就是任何人都可以，只要能阻挡南京国民政府的政治权力伸入东北，使东北成为一个特区，为日本势力范围。事实上这一点非常困难，因为在张作霖被关东军谋杀后，东北军民对日本军阀的憎恨更为增加，他们不一定喜欢张作霖，可是却对于日本军阀用此卑劣手段对付张作霖，为之寒心。
17年6月15日至7月16日这一段期间，关东军参谋长斋藤恒、日本驻北京武官建川美次均分别向日本陆军省报告，认为东北脱离中国本部的时机已经成熟。而日本外务省亚细亚局局长有田亦正草拟“对支方策”，方策分为两部分：一为一般方针，强调以和列强协调为手段，以承认国府为归宿；一为防止满洲赤化为理由，以东三省脱离中国本部为目的。日本外务省有此“方策”，显示外务省态度已在转变，原来日本政府对东三省的措置分为两派，军人主张用武力控制，造成既成事实，促成东三省脱离中国；外交人士则主张采取条约一步一步地控制东三省，最后目的亦是使东三省脱离中国本部，殊途同归，不过一是积极路线，一是消极路线。如今外务省新的“对支方针”也采取条约以外的方法，显见在张作霖被炸后，日本政府的和缓派已有改变。
事实上，无论外交官和军人，均以各种手段向张学良施压力，压力集中在两点上：一为阻止张学良易帜，不许张学良投向南京的国民政府，以破坏中国的统一。二为满蒙铁路权益的伸张。日本田中首相于6月26日两次密电驻沈阳的日本总领事林久治郎，饬其警告张学良勿与南方妥协，又于7月18日重申前饬。林久治郎于6月29日、7月18日两次谒见张学良，7月19日更把田中的意旨面送给张，内容为：
（一）南京国民政府含有共产色彩，且其地位尚未稳定，东北目前犯不着与南京方面发生连系。
（二）如果国民政府以武力进攻东北，日本愿出兵相助。
（三）如果东北财政发生困难，日本正金银行愿予充分接济。
张学良看了田中的三点建议，很冷静地问林久治郎，他说：“我是不是可以把日本不愿中国统一的意见，或东北不能易帜是由于日本的干涉这项事实报告国民政府？”林久治郎见少帅如此质问，为之哑然，避不作答。因为从纯外交上而言，这就是干涉中国内政。张学良第二天拜访关东军的村冈司令官，再把他对林久治郎的话对村冈复述一遍，村冈亦未作答。
当张学良出掌东北军政大权后，阎锡山、李烈钧等均以父执身份用函电或派专人劝告张学良以政治方法达成中国统一。张学良一方面受到日本的压力，又以父仇不共戴天，其内心是亟望投向中央，不过迫于形势，不敢轻举妄动。
民国17年六七月间，中国全国均心向统一，除了山东济南和即墨两县因受日军干涉，不准易帜，东北情况特殊，尚未正式表示外，均是一片青天白日旗飘扬，即远在国外之各使领馆以及僻在西陲的新疆均无例外。
张作霖死讯正式公布后，日本政府特派驻法大使林权助为特使，赴沈阳吊丧，并且向张学良游说。林权助和张作霖是好朋友，因此就私人的关系来说，他是以父执的身份来探望张学良的。日本政府曾给林权助一个秘密训令，内容为：
“自日本观点言，在目下情形中，东三省与南方讲求妥协实甚不利。幸张学良已自动不与南方续洽，则东三省当成为中国最进步之省份。此不特中国一省或日本一己之利益，中国全部人民之利益亦即在此。深信张大元帅如尚在世，必愿见此成就。张学良循此路线，亦足以完成其先人之遗志。
万一南军侵入东三省，则日本决尽其牺牲以执行其现时之政策，维持东三省之和平与秩序。”
林权助于8月3日抵沈阳，4日起至12日连续与张学良密谈四次，其中最露骨之一次是8月9日，在坐除张、林两人外，还有张学良的助手王家祯，林权助的助手佐藤少将。双方谈话颇尖锐。
林说：“国民政府内部有纠纷，共产党在幕后操纵，假如东三省与国民政府妥协，日本在东北的权益将受到极大损害。因此，日本政府希望东三省的军政当局采取观望态度，不要和国民政府携手。如果东三省蔑视日本警告，而率行易帜，则日本将采取自由行动，这一点日本政府是有决心的，希望贵总司令能够了解，同时能下决心镇压不良分子，如有需日本之处，日本政府愿全力相助。”
张答：“我是一个中国人，当然以中国人的立场为出发点。我不愿意看到中国分裂，而愿中国走向统一，实行分治合作之政治。贵国之劝告，我当然予以考虑，不过必需以东三省人民的利益和志愿为依归。如果东三省人民公意要求统一，我唯有依照人民公意。贵使提到日本要采取自由行动，我相信基于国际公法上，日本当不至甘冒干涉中国内政的大不韪。我今天深感遗憾的，是日本方面一再以强硬态度对我威胁。”
林说：“事实上日本政府已有决心，在东三省采取自由行动，即使冒干涉中国内政之嫌亦所不避，希望贵总司令速作决定。”
张答：“我的决定不会受日本的压力，而是以东三省民意为定，在任何情况下，我不能违反东三省的民意。”
至是佐藤插嘴说：“现在不是讲是非的时候，田中首相的决定就是是非之抉择。贵总司令如拒绝田中首相的抉择，东三省将生重大事体。”
林说：“我和令尊是好朋友，敝国政府派遣我来吊丧，就是因为我和贵总司令有这种渊源。在私谊上说，我把贵总司令当作自己子侄，有危险我不能不奉告。”
张学良听到林权助倚老卖老的无理言辞，立刻还以颜色，他岸然告诉林说：“我和贵国天皇同岁，阁下知道不知道，对于阁下刚才的话，我所能奉答的就是这些。”
于是张学良乃端茶送客，双方不欢而散。
二五八、张学良杀杨宇霆、常荫槐
18年1月10日张学良杀杨宇霆、常荫槐于奉天旧帅府。
在当时，这是震惊中外的一件政治事件。
少帅张学良，在中国现代史中，其重要性不小于乃父张作霖。他一生多采多姿，少年得志，名满天下，权倾东北。他出生于民国前十一年（1900年），19岁毕业于东三省陆军讲武堂，20岁任奉军第三混成旅旅长、任镇威军东路第二梯队司令（第一次直奉战争），24岁任镇威军第二军军长（第二次直奉战争），战后任奉军第廿七师师长，东三省航空处长。25岁任第三方面军军团长。27岁任奉军南路总指挥与阎锡山的晋军作战。28岁指挥奉军第三四方面军，张作霖炸死后，出关统领奉军。
在张学良的自述中，他承认幼少庭训，又乏良师益友，11岁丧母，父亲忙于军政，又宠爱有加，自己则未及弱冠出掌军旅，未足而立之年，即负方面大任。因此处事待物但凭一己之小聪敏和良心直觉，虽然热情豪放，浪漫狂爽，可是忿事急躁，有勇无谋。他这番检讨，是在他经历了天翻地覆的世变，和多年来与世隔绝的淡泊生涯中所体会和反省。其实他聪明、侠义，待人宽厚，有很多过人的长处，因此才能在皇姑屯事变后稳住了奉军的军心。
张学良和杨宇霆之间的恩怨说来话长，在郭松龄兵谏时到了顶点，事实上张学良是张作霖的继承人，而杨宇霆受张作霖特别的倚重，两人之间利害冲突日积月累，杨宇霆既不能善处，张学良也不能容忍这样一位尾大不掉的父执。
张作霖遇害时，杨宇霆在滦州视察部队，6月6日张学良微服到了滦州，两人曾作一次密谈，据张学良事后告诉人说，他们两人密谈时，张曾表示愿意把奉天交给杨宇霆，可是杨却傲慢地说：我可以跟你的父亲，但不能跟你作事，我们之间看法做法都不一致。
17年6月下旬，沈阳酝酿推选东北军政领袖时，杨宇霆曾有通电表示个人立场，内有云：
“今后更当秉其（指张作霖）遗志，以东三省大局为重，宇霆忠不出位，只知奉公守法。汉帅（张学良字汉卿）为大帅之令嗣，继承父志，名正言顺，吾从汉帅，如骖之随靳也。
愿我袍泽勿再齿及宇霆，则幸甚。”
杨这道通电显示杨没有反张的野心，事实上当时奉系主张推杨宇霆继张作霖的只是少数，还没有主张拥张作相的多，而张作相则坚决推让给张学良。
张学良任东三省保安司令后，杨宇霆没有新职务，但杨在张作霖时代有两个职务是长时期的。一个是总参议，一个是奉天兵工厂督办。无论杨发表任何新职，总参议和督办两职仍旧担任，所以东北军政人士都称杨宇霆为杨督办。东北兵工厂一直是杨宇霆掌握，他可以任意花钱，任意要钱，杨督办要钱在张老帅时代是优先的，到了张少帅时代，杨仍故态不改。当时奉天财政厅长是张振鹫，时常因杨宇霆要钱付不出而受杨的责骂。张宗昌在滦州被国民革命军击溃后，即率残军要退去关外，奉方一致反对，因为东北情势需要休生养息，而且正酝酿易帜，加上张宗昌平素作为，奉方多不满意，因此决定拒绝张宗昌入关。张学良乃派杨宇霆率兵去迎击张宗昌。杨出兵前曾问张说：“如果捉住了张宗昌怎么办？”杨的意思如果捉了张押回来，你张学良把他放了做人情，岂不陷我于不义之地，因此要先问个明白。张学良和张宗昌曾磕过头、拜过把，杨这一问，张很难作答。当时袁金铠在旁，极力主张“杀”。杨乃问张是不是照袁金铠的意思，张点头答应。杨宇霆出兵后果然活捉了张宗昌。因张没有想到奉方会真的打他。杨对张说：“汉卿叫我杀你，你赶快跑吧，关外不是你的庇护所了。”张宗昌听了大为恚愤，逃至大连写了一封长信痛骂张学良，张学良接到张宗昌的信才发现杨宇霆有意挑拨的阴谋。
张学良酝酿易帜时，关内各方均派代表前往沈阳争取奉系，唐生智派刘兴、白崇禧派叶琪先后到了沈阳，他们都先去见杨宇霆，杨也公然向他们表示，关外的事我杨宇霆可以作主，汉卿是个小孩子，不必理他。刘兴和叶琪都信以为真，也就没有忙着去见少帅。后来在一个公开集会上，张学良见到了刘兴，大为惊讶，因刘兴说他是唐生智派他来的，张学良便问刘兴“为何不来见我？”刘说：“已见到杨督办，面陈一切。”张学良听了自然颇不高兴，第二天在某项会议席上便问杨宇霆是否已和刘兴、叶琪见面。杨岸然答道：“是的，我们可以分开来做，你走中央路线，我和地方派系联络。”张学良说：“如果中央失败怎么办？”杨无以为答。有人告诉张说，杨宇霆这些做法都是常荫槐的策划。
常荫槐当时被目为杨宇霆的亲信，因为他担任东北交通委员会委员长，中东铁路督办和黑龙江省长，这些职务都是杨宇霆所保的。常荫槐在黑龙江省长任内和黑龙江军务督办万福麟积不相容，万曾报告张学良说常荫槐故意积压黑龙江的军费。而省政府又扩充山林队，有替杨宇霆培养势力的企图。山林队本是前清时朱庆澜任黑龙江将军，因辖境大青山匪患猖獗，乃创办山林队。又追查前任吴俊升兼省长时的枪支，并且向奉天兵工厂洽领枪械，又有向捷克斯克达厂购买军火的传闻，但据说向捷克订货确有其事，却不是军火，而是火车头33辆和轮船16艘，拖船若干艘。
杨宇霆字邻葛，辽宁法库人，毕业于日本陆军士官学校步科第八期，受张作霖特识，因此权倾一切。第二次直奉战争时，杨为奉军参谋长，战后出任江苏军务督办，被浙江军务督办孙传芳所逐，仓促退出苏皖，其后郭松龄兵谏倒戈，以清君侧为号召，即是针对杨宇霆，而杨受张作霖的宠爱始终不衰。
常荫槐字翰勷，奉天梨树县人，奉天法政专门学校法律系毕业，一直在黑龙江省任事，后为许兰洲之参谋长。第一次奉直之战，奉军败退山海关，常代表许兰洲向总部办理事务，为杨宇霆所赏识。民国14年任京奉路局长，16年潘复组阁时代理交通部长并兼京奉路局长，日本迫张作霖签五路条约时，扬言此约不签张作霖及奉军不能出关，甚至不能过天津，常不主签订，避往天津。张作霖遇害时，常荫槐亦乘一辆专车随行，遇炸时常本在张车厢中，至皇姑屯乃离车后行，闻炸声车停，常恰在两车厢接头处，致跌倒受轻伤。
杨宇霆虽然算是个聪明人，可是皇姑屯事变后，他在东北扮演着一个危险的角色。他既然不满意张学良，又轻视张学良，可是却又在张学良下边任事。杨最不该的是常在人前人后呼张学良为阿斗。对张学良来说，他掌握东北军政大权，内有杨宇霆以悍将长辈自居，外又要应付日本军阀的各种压迫，所谓“主少国疑”，他如果不“立威”，是无法站得起来的。所以在当时情势下，杨宇霆有取死之道，张学良也有必杀之心。
据说张学良在杀杨宇霆前数日，某日本人曾以《日本外史》一册寄赠张学良，并用红笔把丰巨秀吉与德川家康一段史事勾出来，暗示杨宇霆是德川家康，而以张学良影射丰臣秀吉。德川是丰臣的家将，又是权臣。日本人不是对张学良有所爱护而是故意制造离间，希望张、杨互相争权，互相火拼，替日本人造机会。事实上杨宇霆也好，张学良也好，他们都是反日的，都不会和日本勾结。
