東西魏分立之初，東魏的高歡和西魏的宇文泰都有各自的軟肋。
對於高歡而言，黃河以南地區原來並非自己的勢力範圍，需要經過一番爭奪，大體上經過天平二年的較量，高歡依靠侯景、高敖曹、竇泰、堯雄等人消滅了樊子鵠，擊退了梁軍，趕跑了賀拔嶽、獨孤信，穩定了黃河以南地區。雖然如此，黃河以南各州郡的形勢依然不容樂觀，天平二年八月，逃往山蠻聚居區內的趙剛勸說東魏東荊州刺史李愍（李元忠同族）投降西魏，李愍遂派趙剛前往晉陽察看形勢，趙剛回來後，仍然勸說李愍斬殺了響應侯景的楊祖歡等人，以東荊州投靠了西魏。李愍遂命趙剛回到了長安，但不久，李愍就死了，死因不詳，實際上，西魏佔領東荊州的企圖是落空了。
對於宇文泰而言，同樣面臨著“敵中有我、我中有敵”的問題，如前所述，靈州刺史曹泥、渭州刺史可朱渾道元都是心向高歡的，甚至幹秦州（駐守在覆鞋城，今地不詳）刺史万俟普及其兒子万俟受洛幹、豳州刺史叱幹寶樂等人也都是高歡的好友，態度曖昧。大統元年（東魏天平二年），宇文泰逼降了曹泥、趕跑了可朱渾道元，總算是稍稍鬆了一口氣。
但高歡並沒有給宇文泰多少喘息的機會。
東魏天平三年（公元536年）一月二十二日，高歡親自率領一萬騎兵，趁著黃河冬季結冰之時，西渡黃河，長途奔襲西魏的夏州（統萬城，治所陝西省橫山縣）。東魏軍晝夜兼行，一路上只吃乾糧，四天即來到了統萬城下。東魏將士們將長矛捆綁起來，當作雲梯，趁夜爬上了城牆，生擒西魏夏州刺史斛拔俄彌突。高歡仍然留任斛拔俄彌突為刺史，並留下都督張瓊、許和為慰勞大使，率軍駐守，將斛拔俄彌突的部眾五千多戶全部遷至黃河以東。
宇文泰與西魏群臣商議對策，都督郭賢說∶“高歡兵力雖多，但他智力勇力均已枯竭，揣測他此舉，必然不敢深入。過去，賀拔嶽大人剛剛去世，關中一片驚恐，那時候，高歡不能趁機奪取雍州，說明了他沒有智慧；等到孝武帝西遷時，關中軍隊力量很弱，毛鴻賓在潼關戰敗，潼關天險被打破，他又不能趁此良機，尋找我軍主力決戰，這說明了他沒有勇氣。如今，我方上下一心，軍民團結，高歡土氣低落，豈敢前來送死？況且，夏州、豳州之地十分荒涼，千里沒有人煙，縱使高歡他意欲南下，糧草卻跟不上，由此看來，高歡肯定不會趁機南下的。”
果然，在高歡奪佔西魏夏州以後，並沒有發兵南下關中，而是以夏州為據點，四處勸誘西魏地方官吏。在他的勸誘下，西魏靈州刺史曹泥及其女婿劉豐再度背叛，投降了東魏。宇文泰派遣行臺趙善、万俟受洛乾等人率軍包圍了靈州州城靈武，西魏軍引黃河水倒灌城池僅差四尺，河水就將城池淹沒。高歡得知後，秘密聯絡在原州附近的阿至羅部眾，命令他們調派三萬騎兵繞到西魏軍隊背後，西魏軍擔心腹背受敵，遂撤離靈州。西魏軍隊退去後，高歡親自率領騎兵從統萬城西進，迎接曹泥和劉豐，將所屬五千多戶殘餘部眾遷回東魏。
永熙二年，在原州遊牧並趁北魏末年大亂而叛亂的阿至羅部眾受到高歡的招撫，有十萬餘戶歸降，高歡對他們賞賜了大量糧食布帛，阿至羅酋長吐陳等人對高歡非常感激，當時，朝廷還有人提出異議，至此、在高歡與宇文泰的較量中，阿至羅人起兵響應，有力地支援了高歡。
緊接著，高歡又命阿至羅部眾東下，威逼西魏秦州刺史万俟普，高歡動員軍隊也遙相呼應。到了這一年的六月（《周書》稱五月），西魏秦州刺史万俟普、太宰万俟受洛幹、隨州刺史叱幹寶樂、右衛將軍破六韓常以及三百多名督將率領各自的部隊叛逃到東魏，西魏丞相宇文泰率領輕裝騎兵前去追趕，一直追到榆林河以北一千多里，也沒有追上。
西魏大統二年，對於宇文泰而言，可謂是一個多災多難的年份。這一年，關中地區發生了極為嚴重的饑荒，人們之間因飢餓而相互殘殺、吞食，因飢餓或被殺而死的就高達十之七八。而在這一年的年初，東魏高歡襲破了夏州，緊接著引發了靈州刺史曹泥、秦州刺史万俟普等人一連串大規模的叛逃事件，與此同時，秦隴以西與吐谷渾、宕昌接壤地區也發生了叛亂。
當東魏丞相高歡發兵西進、西魏眾多大臣叛逃前後，宕昌的梁企定也再度反叛，陰謀殺死梁覽，佔領河州。梁覽與梁企定多次交戰，但一直未能擊退他的進攻，宇文泰得知後，立即命令行臺趙貴、大都督侯莫陳順率軍西上。梁企定見西魏軍隊前來，這才害怕，謝罪稱臣。宇文泰無暇顧及，遂免除了他的罪過，拜其為撫軍將軍，並命侯莫陳順接替梁覽駐守在河州。
國內天災不斷，東魏高歡兵鋒犀利，西部吐谷渾、宕昌心懷不軌，而北方柔然阿那壤也是虎視眈眈。
《資治通鑑》在南梁大同元年，即東魏天平二年、西魏大統元年這一年稱，柔然向東魏求婚，高歡以常山王妹為蘭陵公主，嫁給了柔然。此後，柔然多次侵擾西魏，西魏又派遣中書舍人庫狄峙與柔然和親，從此，柔然不再侵擾了。其實，這一記載是錯誤的，當時的情況並非如此。東西魏分裂後，阿那瓔即於東魏天平二年派遣粟特胡人安吐根前去晉陽，打探東魏的虛實，而安吐根則暗中告誡高歡，要防備柔然軍隊南下。同年，阿那又向西魏求和親，宇文泰即以孝武帝時的中書舍人元翌（宗室疏屬）之女號稱化政公主，嫁給了阿那的弟弟塔寒，又命帳內都督楊薦、太子太傅楊寬二人為使者出使柔然國，二人來到柔然國內，均娶妻而還，至此，宇文泰搶先結好了柔然。
西魏與柔然結親立即引起了東魏高歡的警覺，第二年，他也派遣中書舍人楊暢前往柔然國，此時，柔然與西魏之間的關係尚不牢固，宇文泰擔心出現枝節，也趕忙派遣賀若誼前往。賀若誼到柔然國中後，以厚利相引誘，終於說動了阿那。阿那將東魏的使者楊暢交給了賀若誼，並表示與西魏聯合————宇文泰承諾給予柔然的厚利。大約正是在這個時候，宇文泰為了進一步鞏固兩國的關係，又產生了讓魏文帝廢掉乙弗皇后，另行迎娶阿那長女為皇后的打算。
