1925年春，張宗昌被任命為山東軍務督辦。皖系原任督辦鄭士琦，不願意放棄地盤，遲遲不願意走。張作霖在第二次直奉大戰中，和馮玉祥聯合，擊敗了直系，為了平衡，張作霖將皖系首領段祺瑞推到前臺，讓其擔任臨時執政。張宗昌在直奉大戰中為奉軍立下大功，但是卻一直沒有合適的地盤，於是段祺瑞在張作霖的壓力下，不得不讓出皖系控制的山東。
由於當時皖系和奉系是盟友，所以張宗昌在鄭士琦不願意交出山東之初，也只得暫時隱忍。可是，當張宗昌帶著部隊在徐州等了三個多月後，見鄭士琦還是裝傻充愣。張宗昌勃然大怒，派他的參謀長王翰鳴前往濟南與鄭士琦面商，希望和平接任。
在派王翰鳴與鄭士琦交涉的同時，張宗昌讓手下許琨率兩個旅入山東。 當時，歸鄭士琦指揮的山東軍隊，共有一個師十三個混成旅及兩個獨立團。這些部隊，大都是山東的地方部隊，各有其歷史背景，除胡聘三的第七混成旅算是鄭士琦的班底外，其餘都只是名義上歸鄭士琦指揮。在這種情況下，鄭士琦見張宗昌的先頭部隊已經進入山東，只得將山東軍務督辦的印信交給省長龔伯衡代收，自己黯然離開了山東。
同年冬，張宗昌任山東軍務督辦半年後，就發生了南下阻擊孫傳芳之戰，這也是奉系由盛到衰的開始。
第二次直奉大戰後，奉系的楊宇霆、姜登選分別出任江蘇、安徽兩省的軍務督辦，奉系的勢力範圍達到頂峰，但是這也造成了奉軍的兵力分散。
當時，張宗昌率領的軍隊已全部撤回徐州及山東境內，奉軍僅有邢士廉一師駐紮在上海，丁喜春一師駐在南京，歸楊宇霆指揮。姜登選乾脆就沒有帶多少部隊到安徽。當時安徽的地方部隊，有倪朝榮、王普、章浚和、馬祥斌等旅（馬旅駐蚌埠附近），他們對奉軍大都抱著陽奉陰違的態度。
本是直系的孫傳芳在攻佔浙江後，積極整軍經武，並表面交好段祺瑞、張作霖，暗中卻派人和馮玉祥聯絡，孫傳芳還派人聯絡直系老長官吳佩孚，讓其出任十四省討賊聯軍總司令，此外江西軍務督辦方本仁、贛北鎮守使鄧如琢、江蘇軍務幫辦陳調元也都和孫傳芳秘密聯絡，反奉的號角即將吹響。
1925年10月，孫傳芳利用江蘇人民對奉軍紀律敗壞的痛恨情緒，命李寶章師襲擊上海，盧香亭師夜渡太湖，襲佔丹陽，以切斷滬寧鐵路，並命謝鴻勳師經宜興進窺南京。在孫軍攻擊之下，奉軍迅即潰敗，楊宇霆棄城逃走，孫傳芳於10月16日進入南京。安徽的地方部隊長官也密謀殺掉姜登選，姜登選只得棄職北逃。緊接著，孫傳芳部的謝鴻勳、盧香亭、陳儀等師大舉渡江追擊，向淮河南岸急進。
張作霖在看到楊宇霆、姜登選都不戰而退，很快丟失了江蘇、安徽兩省地盤後，大發雷霆，當即召集奉系骨幹開會，決定由張宗昌率領大軍南下增援，並委任張宗昌為江蘇善後督辦，施從濱為安徽善後督辦。
張宗昌奉到命令後，即派施從濱率部為前鋒，向蚌埠前進，並派招募的白俄部隊沿津浦鐵路東側南下，以掩護施部的側背。施從濱部經過幾天的整頓補充後，由兗州泰安防地先後開到蚌埠，並在附近佈防，這時孫軍首先發起猛烈攻擊，施部不支，紛紛潰退，蚌埠被孫軍佔領。施從濱退出蚌埠後，在固鎮以南坐著白俄部隊的鐵甲火車指揮作戰，企圖挽回敗局。
施從濱部同孫軍在固鎮以南作戰的時候，後方還有鐵甲車一列和軍械處的彈藥車數輛，隨時可以支援和補充。後來孫軍的謝鴻勳師派出迂迴部隊繞到固鎮橋以北，將鐵路破壞，切斷了施部的退路。施部受到前後夾擊，紛紛向北潰逃，施從濱和他的隨行人員，全被孫軍俘虜。
當時固鎮橋北的南宿州至夾溝一帶，奉軍程國瑞、王棟、許琨等部隊陸續到達，相繼與孫軍接戰。李恆珍率領的彈藥車隊也開到夾溝車站。
孫傳芳善於練兵，孫軍當時算是軍閥中首屈一指的勁旅。經過一晝夜的激戰，奉軍程國瑞先登上火車退走了，他的理由是打沒了子彈，其實彈藥並不缺乏。程國瑞過去作戰，素稱驍勇，但是時過境遷，此時他已成了富翁，無需再去賣命了。其他奉軍部隊也都順著津浦鐵路向北退卻。
11月8日，孫軍先頭部隊佔領徐州，張軍轉移到山東境內韓莊以北一帶據守。孫傳芳從襲擊上海到佔領徐州，僅一個多月的時間，就得到出乎意料的大勝利。此時的孫傳芳，急需回到南京籌組蘇、浙、閩、贛、皖五省聯軍事宜，消化勝利果實，因此不再向北出擊。張宗昌大敗之下，自知不是孫傳芳的對手，也不敢南下。
施從濱被孫軍俘虜後，押到孫傳芳的指揮部，孫傳芳違反了北洋軍閥交戰時互相不殺對方大員的潛規則，下令將施從濱斬首處決。十年後，施從濱的女兒施劍翹在天津租界的居士林槍殺孫傳芳為父報仇。
張宗昌敗退回山東不久，11月21日晚，奉軍大將郭松齡突然發出討伐張作霖、楊宇霆的通電。郭松齡指揮著奉軍最精銳的部隊，隨後在巨流河之戰中，郭松齡兵敗身死，但是奉系元氣大傷，衰落之勢難以逆轉。
