把那官员封为天王，急令撤退。中国毫无所获。
这一场阴谋奇计，虽然落了空，但中匈两国五十年之久的和睦邦交，从此破裂。匈奴汗国又恢复从前那种大规模的侵略行动。可是，形势已不是从前，中国的反应十分严厉，立即发动一连串不停止的攻击。
马邑之谋四年后（前一二九年）大将卫青、公孙敖、公孙贺、李广分别出上谷（河北怀来）、代郡（河北蔚县）、云中（内蒙古托克托）、雁门（山西右玉）四路进击。明年（前一二八）卫青与另一大将李息分别出雁门、代郡进击。又明年（前一二七）卫青、李息再出云中向西迂回进击，这一次开始有大的收获，匈奴大败，中国再度把匈奴驱出河套，就在河套沙漠与黄河之间，兴筑朔方城（内蒙古杭锦旗北）三年后（前一二四）卫青率六位将领，分别出高阙（内蒙古乌拉特后旗东南）、右北平（内蒙古宁城西南）、朔方（内蒙古杭锦旗北）三路进击，深入匈奴汗国三百公里，俘虏小王十余人，男女一万五千人，牛羊数近一百万头。
明年（前一二三）卫青再率六将领出定襄（内蒙古和林格尔）进击。这一次中国吃了败仗，大将苏建所率领的三千人骑兵团，全部覆没。另一大将赵信于兵败后投降匈奴，因赵信深知中国内情，匈奴汗国像宝贝一样看待他，特地为他兴筑了一个赵信城。两年后（前一二一）中国二十三岁的大将霍去病出陇西（甘肃临挑）进击，越过焉支山（甘肃山丹东南胭脂山）五百公里，斩匈奴名王以下八千九百余人，俘获匈奴休屠王祭天时用的金人。同年，霍去病再出陇西作第二次进击，越过居延海（内蒙古额济纳旗）深入一千余公里，杀虏三万零二百人。霍去病一年中两次空前胜利，横穿河西走廊，如入无人之境。而河西走廊正是匈奴汗国浑邪王的防地，伊稚斜单于大怒，迫究失败的责任。浑邪王恐怕被杀，就带着他的部落和他的土地，向中国投降。这对匈奴汗国是一个重大打击，他们衷歌：“亡我祁连山，使我牲畜不繁息。失我焉支山，使我妇女无颜色。”
焉支山所产的红色染料，可作为妇女的化妆品，中国“胭脂”一词，即由此来。
中匈战争这样延续了十五年之久，进入八十年代，才算有一出定性战役。
匈奴汗国也知道昔日光荣已经过去，所以采纳降将赵信的建议，认为中国军队不能深入沙漠，就把国境线后撤，单于远走瀚海沙漠群以北。中国当然不会罢手，纪元前一一九年，卫青出定襄，霍去病出代郡，向匈奴总攻。卫青兵团深入匈奴汗国五百公里，伊稚斜单于仓促迎战，大败，向北突围逃走。卫青追击到寅颜山（蒙古哈尔和林西南）赵信城，不见敌踪（就在这一战，名将李广在沙漠中迷失道路，自杀）霍去病兵团深入沙漠一千余公里，杀虏七万余人，而匈奴汗国当冒顿单于最盛时，控弦战士不过三十万人。霍去病追击到狼居胥山（蒙古肯特山）不见敌踪。
这是对匈奴汗国最重要的一战，从此瀚海沙漠群以南再没有王庭，匈奴汗国对中国已不像过去那样，构成生存上的威胁。前一一五年及稍后时间，中国更在浑邪王故地河西走廊，设立四郡：酒泉郡（甘肃酒泉）、武威郡（甘肃武威）、张掖郡（甘肃张掖）敦煌郡（甘肃敦煌）这块土地从此成为中国的领土，直到今天。
当中国准备反击匈奴汗国的时候，想起了匈奴汗国的一个仇敌——月氏王国。这王国本来立国在河西走廊，首都设在张掖（甘肃张掖）是一个大国。但在本世纪（前二）三十年代，被匈奴汗国击溃，国王的头骨被老上单于（冒顿单于的儿子）当作尿壶。全国向西逃亡，一直逃到中亚威海以南、阿富汗以北地区定居，定都蓝市城（阿富汗瓦齐拉巴德市）中国盼望跟月氏王国结盟，对匈奴东西夹攻。以中国人的想法，月氏王国对匈奴有杀父灭国的深仇大恨，一旦听到有报仇复国的机会，一定非常感激。中央政府征求使臣，成固（陕西城固）人张骞应征，跟他有同样勇气的还有一百余人。
月氏王国距中国首都长安，直线三千余公里，那时中国西界只到金城（甘肃兰州）过此便是匈奴汗国的版图和势力范围。而祁连山南麓，又有杀人掠货的羌民族部落。更西则是西域，风言风语的传说，西域全是无边无涯的沙漠和沙碛，暴风时起，天翻地覆，光天化日之下，处处鬼哭神号。又有寸草不生的咸水（罗布泊）举目荒凉，上不见飞鸟，下不见走兽，往往走一个月不见人烟。也没有正式道路，行旅只有沿着前人死在途中的枯骨，摸索前进，那是一个恐怖而陌生的地方。
纪元前一三八年，张骞跟他的使节团从首都长安出发，向他们毫无所知的，充满险恶死亡的西北蛮荒深入。他们一开始就遇到恶运，进入河西走廊后不久，就被匈奴汗国捉住，当发现他们是前往月氏王国时
，军臣单于火就更大了：“这是什么话，月氏王国在我之西，中国怎敢越过匈奴，跟他们来往。如果我派使节去南越王国（广东广州）中国准许通过吗？”
下令禁止离境，但尊敬他们是英雄人物，所以每人介绍了一位匈奴小姐作为妻子。这样转眼十年，到了七十年代第一年（前一二九）张骞跟他的伙伴，不忘使命，抛弃妻子，向西逃走。终于逃到大宛王国（乌孜别克卡散赛城）大宛把人送到康居王国（哈萨克突厥斯坦）康居再把人送到月氏王国。然而，月氏王国现在十分富裕，比在河西走廊故地要舒适多了。现任国王是死王的孙儿，对祖父的感情又隔了一层，所以，没有人想到报仇复国的事。张骞在月氏王国住了年余，失望而归。在归途中，第二次被匈奴巡逻兵捉住，又禁止离境。纪元前一二六年，他再度抛弃妻子，从匈奴逃走，他的妻儿听到消息，狂奔来随，可是追兵已至，张骞只抢到一个儿子，妻子跟另外一个幼子，被追兵隔断，永远诀别。张骞出使时一百余人，十二年后，回到长安，只剩下两个人——张骞和他的堂邑（江苏六合）籍忠实仆人甘父。
张骞这次出使，虽没有达成原来盼望的政治目的，但他为中国人发现了一片比当时中国还要广大的新的世界。他的贡献，只有以后哥伦布发现新大陆可以相比。张骞在月氏王国游说时，曾到过大夏王国（阿富汗东北部）发现有蜀郡（四川成都）出产的布匹和邛崃山（四川荥经）出产的竹子。大夏人告诉他：“从身毒王国（印度）买来。”
张骞推测，商品可以通过身毒王国，那么，人马当然也可以。也就是说，不必再冒被匈奴捕捉扣留的危险，改从蜀郡出发，到达西域，当更为安全。这设计得到皇帝刘彻的支持，遂引起中国对“西南夷”的开拓。
纪元前一二一年，匈奴汗国浑邪王投降，河西走廊成为中国领土，于是中国跟西域直接接触。张骞再提出跟乌孙王国（吉尔吉斯伊什提克）结盟的建议。乌孙王国原在河西走廊西部，跟月氏王国为邻，后来被月氏驱逐，西迁到中亚巴尔喀什湖东南，是一个横跨伊