戰國末期，中國北方的蒙古高原上崛起了一個少數民族——匈奴，其政治中心單于庭位於漠南的頭曼城。
為了阻止匈奴南侵，趙武靈王曾在陰山南麓修築長城，但不久後就被匈奴突破，並佔領了河套地區。
秦始皇統一六國後，於公元前214年派遣蒙恬統軍40萬北擊匈奴，並收復了河套地區。
到了公元前209年，匈奴太子冒頓殺父自立為單于。自此，匈奴在一代雄主冒頓單于的帶領下，走上了對外擴張的道路。
公元前206年，秦朝滅亡，匈奴則趁機奪取了河套地區。此後，匈奴多次襲擾中原北方的燕郡和代郡。
公元前200年，匈奴趁漢王朝根基未穩，大軍南下突然包圍了幷州的馬邑城，緊接著又南侵太原。
漢高祖劉邦親率32萬大軍北上反擊，一直攻到平城。結果反被三十多萬匈奴大軍一夜間包圍在平城以東的白登山上。最後還是在謀士陳平的計策下才得以脫身，此後幾十年裡漢朝都奉行著屈辱的和親政策，並在軍事上採取守勢。
冒頓單于
漢廷與匈奴之間的第一次大戰以漢朝的失敗而告終，一部分原因是漢初剛剛結束了秦末亂世，百廢待興，實力不逮。
但更主要的是，當時漢軍完全不適應機動性極強的騎兵作戰方式，一夜之間將三十萬大軍包圍起來，這對當時的漢軍來說是難以置信的。
自此，漢朝在惠帝、呂后與文、景兩帝時期都奉行與民休息的治國方針，大力恢復生產力。
而在軍事方面，漢朝開始重視騎兵作戰方式，在全國範圍內養馬。漢文帝時，朝廷規定每家農戶要養馬一匹，以資軍需。
而匈奴方面則佔領了河西走廊，又征服了西域，從正北和西北兩個方向對中原形成包圍之勢。
和親政策使得漢匈雙方沒有爆發大規模戰爭，但小規模衝突從來都沒有停止過。
從公元前180年開始，匈奴騎兵就頻繁地對長城以南地區進行擄掠襲擾，而漢軍也在堅決反擊，使戰線基本上穩定在西北邊境線上。
但是自從漢武帝時期開始，攻守情形就不同了。少年天子無法容忍屈辱的和親政策，因此對匈奴作戰就成了漢武帝心中的第一要務。
在軍事上，加強騎兵部隊的建設，修築軍事要道；在政治上，加強中央集權，實行“推恩法”以削弱地方勢力；在經濟上，實行鹽鐵官營以進一步充實國庫。
於是從元光六年 （前129） 起，漢武帝展開了大規模對匈作戰，漢軍深入匈奴境內，對匈奴實施嚴厲的打擊。
經過漠南、河西兩大戰役，漢軍收復了河套地區地區並佔領了河西走廊。
但是漢武帝還是不滿足這樣的戰果，因為漠南、河西兩戰只消除了匈奴右部的威脅。東北的匈奴左賢王部和漠北單于本部的實力尚存，因此他希望可以發動一場深入漠北的大戰，徹底殲滅匈奴主力，從根本上消除威脅。
