公元前123年，卫青再率六将领从定襄（内蒙古和林格尔）进击。但这一次中国吃了败仗，大将苏建所率领的三千人骑兵团全部覆没。另一大将赵信于兵败后投降匈奴，因赵信深知中国内情，匈奴汗国像珍宝一样看待他，特地为他兴筑了一个赵信城。公元前121年，中国年轻的大将军霍去病从陇西（甘肃临挑）进击，越过焉支山（甘肃胭脂山）50公里，杀了匈奴名王以下八千九百余人，得到了匈奴休屠王祭祀使用的金人。同年晚些时候，霍去病再从陇西作第二次进击，越过居延海（内蒙古额济纳旗），深入一千余公里，杀三万零二百人。霍去病在一年中获得两次空前胜利。伊稚斜单于大怒，迫究失败的责任。浑邪王恐怕被杀，就带着他的部落和他的土地，向中国投降。这对匈奴汗国是一个重大打击，匈奴当时的歌唱到：“亡我祁连山，使我牲畜不繁息。失我焉支山，使我妇女无颜色。”焉支山出产红色染料，可作为妇女的化妆品，中国“胭脂”一词，即由此来。

　　中匈战争这样延续了15年之久，进入80年代，又有一场决定性的战役。

　　匈奴汗国知道昔日荣光已经过去，所以采纳降将赵信的建议，认为中国军队不可能深入沙漠，就把国境线后撤，单于远远的搬迁到瀚海沙漠群以北。中国当然不会罢手，公元前119年，卫青从定襄，霍去病从代郡，向匈奴总攻。卫青兵团深入匈奴汗国五百公里，伊稚斜单于仓促迎战，大败，向北突围逃走。卫青追击到寅颜山的（蒙古哈尔和林西南）赵信城，不见敌踪（就在这一战，着名的将军李广在沙漠中迷失道路，自杀）。霍去病兵团深入沙漠一千余公里，杀七万余人，而匈奴汗国即使在冒顿单于最昌盛时，控弦的战士不过30万人。霍去病追击到狼居胥山（蒙古肯特山），不见敌踪。

　　这是对匈奴汗国最重要的一战，从此瀚海沙漠群以南再没出现过匈奴汗国的王庭，匈奴汗国已无法像过去那样对中国构成生存上的威胁。中国在匈奴汗国浑邪王的故地河西走廊，设立了四座城市：酒泉郡（甘肃酒泉）、武威郡（甘肃武威）、张掖郡（甘肃张掖）。敦煌郡（甘肃敦煌）。这块土地从此成为中国的领土，直到现在。