汉朝刚刚成立的时候，无力对抗北方草原上强大的匈奴。白登山一战，汉高祖刘邦差一点儿就做了俘虏，侥幸回来后，只好将宗室的女子嫁给匈奴单于，开始和亲。

汉武帝时，随着国力的强盛，汉朝改变了长期以来对匈奴隐忍退让的政策，开始了大规模的战略反击。经过三次大型战役，汉军击败匈奴，控制了河套和河西走廊(38)，势力伸入西域。

到汉宣帝时，又联合西域的乌孙，对匈奴进行东西夹击。匈奴大败远遁，又遇上了雪灾，人民、牲畜损失大半。许多属国见匈奴衰落，纷纷独立，脱离其控制。外部的打击加剧了匈奴内部的矛盾，出现了五单于并立、互相攻杀的混乱局面。

经过一番角逐，剩下两个单于，他们是两兄弟。哥哥号“郅支(39)单于”，弟弟号“呼韩邪(40)单于”。郅支击败了呼韩邪，匈奴分裂为南北两部。

经过长期惨烈的战争和自然灾害，南匈奴呼韩邪单于此时只剩下数万部众，衰弱不堪，于是在公元前52年向汉朝称臣归附。这是汉匈关系大转折的标志性事件，汉宣帝君臣欣喜若狂，善待呼韩邪及其部众。北匈奴郅支单于却因为杀害了汉朝使者谷吉，害怕报复，向西迁徙，与康居结盟，最终于公元前36年被汉军甘延寿、陈汤歼灭。

北匈奴被消灭后，只剩下南匈奴了。呼韩邪单于又喜又惧，于公元前33年第三次来到长安，说愿意做汉朝的女婿，请求和亲。汉元帝就赐给他宫女五人，其中一人就是名垂青史的奇女子王昭君。