到了五十年代，北匈汗国进攻南匈汗国，南匈不能抵抗，向中国求救。中国政府采取三项措施：一、把呼韩邪二世单于所属的八人口牲畜，全迁入长城，使他们在西河美稷（内蒙古准格尔旗）一带屯垦。二、中国特设匈协防司令（护匈中郎将）与单于共同理匈内政外交事务。三、另设北疆边防司令（度辽将军）屯兵曼柏（内蒙古达拉特旗东南）一则防止南北两匈复合，一则防止北匈向南匈攻击。北匈汗国当然不肯甘心，不断南下突袭，使中国北方沿边郡县，白天都得紧闭城门。

        本世纪（一）六十年代之后，中国国力恢复，开始对北匈反攻。七三年，大将窦固出酒泉（甘肃酒泉）西进，直到天山，占领北匈汗国最沃的耕地之一伊吾卢（新疆哈密）留兵屯垦。另一位大将耿秉出张掖（甘肃张掖）北进，深入三百公里，直到三木楼山（蒙古工则克山）北匈坚清野，向后撤退，没有受到重大创伤。八五年，北匈汗国的七十三个小落投奔南匈汗国。八七年，位于乌桓落北方新茁壮起来的鲜卑落（内蒙古西辽河上游）也向北匈侵略，北匈在迎战中大败，优留单于被杀，内混乱，又有五十八个落共二十八万人，进入长城，归顺南匈汗国。

        中国乘北匈内外交困，及时的与南匈组织中甸联军，给予最沉重的一击。八九年，中国大将窦宪出朔方（内蒙古磴口）北疆边防司令（度辽将军）邓鸿出五原（内蒙古包）南匈休兰尸逐侯囗单于出满夷谷（内蒙古固阳北）在涿邪山（蒙古戈阿尔泰山）会师，向北进，深入瀚海沙漠群一千五百公里，到稽落山（蒙古古尔班察汗山）终于捕捉到北匈主力。北匈主力在中国强大攻击下崩溃，北匈单于（历史上未记下他的名字）向西逃走，亲王以下一万三千人被杀，八十一个落共二十余万人投降。窦宪就在燕然山（蒙古杭爱山）上，竖立石碑，纪念这次空前的胜利。

        两年后（九一年）窦宪再派遣大将耿夔、任尚，出居延（内蒙额济纳旗）企图一举把北匈汗国消灭。耿夔统军急进，在金微山（蒙古阿尔泰山）下，把北匈单于包围，北匈再度崩溃。皇太后亲王以下五千余人

        ，全被俘。只北单于在混战中突围，向西逃走。――这一次战役，对中国固然重要，但对西方世界更为重要。北匈汗国残余落，在漠北不能立足，只得向西亡。三百年之后四世纪时，终于侵入黑海北岸，引起推骨牌式的民族大迁移。原住在黑海北岸的西哥德落，向西侵入多瑙河上游。原住在多瑙河上游的汪达尔落，向西侵入罗帝国。罗帝国对这些排山倒海而来的野蛮民族，无法抵御，而终于沦亡。

        北匈汗国西迁后，只剩下南匈汗国，永远成为中国的臣属。――匈汗国（也就是南匈汗国）在形式上仍继续存在一百余年，不过在中国历史上不再重要。二一六年时，它最后一位元首呼厨泉单于从当时的王庭平阳（山西临汾）去邺城（河北临漳）拜会当时中国的宰相曹，曹把他留下。下令将匈汗国分为五，每各设立一个都督，直属中国中央政府，单于名位撤销。这个煊赫一时，立国约四百三十年的庞大国度，终告灭亡。