在刘邦新政权有“内忧”的同时，“外患”也出现了——北方的匈奴南下，开始威胁汉王朝的统治。

早在夏王朝时，匈奴就在北方渐渐发展起来，且因为匈奴民族的游牧习性，他们擅长骑马射箭、游击，“神龙见首不见尾”，难以捉摸。秦统一六国后，曾派蒙恬大将军率兵三十万攻击匈奴，收复了河套一带。

秦末汉初到楚汉争霸这些年，匈奴人休养生息、发展壮大，渐渐势力强大起来。冒顿单于杀死了其父头曼单于，自立为单于，并且统一了匈奴和部，使匈奴达到了前所未有的强盛。匈奴很快占领了河套平原的一些郡县，到汉初，甚至已经开始威胁到汉王朝的统治。

前面，我们提及韩王信曾投降匈奴。其实，刘邦在为韩王信划封地时就后悔了，因为韩王信的封地是战略要地，一旦失守，就会危及中原。于是，刘邦便以防御匈奴为名，将韩王信的封地迁至太原郡，以晋阳（今山西省太原市）为都。

不久，韩王信上奏，说晋阳离边疆太远，不利于守御，请求将王都迁到更北方的马邑（今朔州），得到刘邦批准。

韩王信与匈奴交战，败多胜少。汉高祖六年（公元前201年）秋，冒顿单于亲率军队，以十万铁骑围攻马邑，韩王信只得多次派使者与匈奴求和。

刘邦怀疑韩王信暗通匈奴，致书责备韩王信，韩王信担心会被诛，便与匈奴约定共同攻汉，以马邑之地请降。随后韩王信与匈奴挥师南下，攻下太原郡。

由于汉军节节胜利，产生了麻痹轻敌的思想。刘邦到达晋阳后，听说匈奴驻兵于代谷（今山西省繁峙县至原平市一带），于是先派人侦察冒顿虚实。而冒顿将其精锐士兵、肥壮牛马等隐藏起来，只显露出年老弱小的士兵和瘦弱的牲畜，派去的十余批使臣回来都说匈奴可以攻击。刘邦派刘敬（娄敬）再去出使匈奴，他回来报告说：“两国交兵，这时该炫耀显示自己的长处才是。现在我去那里，只看到瘦弱的牲畜和老弱的士兵，这一定是故意显露自己的短处，而埋伏奇兵来争取胜利。我以为匈奴是不能攻打的。”这时汉朝军队已经越过了句注山，二十万大军已经出征。刘邦听了刘敬的话非常恼怒，骂刘敬道：“齐国孬种！凭着两片嘴捞得官做，现在竟敢胡言乱语阻碍我的大军。”就用镣铐把刘敬拘禁起来押在广武县，准备凯旋后进行处罚。

刘邦率轻骑先到达平城（今山西省大同市），此时汉朝大军还未完全赶到。冒顿单于在白登山设下埋伏。刘邦带领兵马一进入包围圈，冒顿单于马上指挥四十万匈奴大军，将刘邦的兵马围困在白登山，使汉军内无粮草、外无援兵，不能相救。刘邦发现被包围后，组织突围，经过几次激烈战斗，也没有突围出去。之后，冒顿率领骑兵从四面进行围攻：匈奴骑兵西面的是清一色白马，东面是清一色青马，北面是清一色黑马，南面是清一色红马，企图将汉军冲散。结果，双方损失很大，一直相持不下。匈奴围困了七天七夜，也没有占领白登。

汉军在被围了七天后，粮食也快吃完了，饥寒交迫，危在旦夕。陈平看到冒顿单于对新得的阏氏（单于的妻妾）十分宠爱，朝夕不离。这次在山下扎营，经常和阏氏一起骑马出出进进，浅笑低语，情深意笃。于是陈平向刘邦献计，想从阏氏身上打主意。刘邦采用陈平之计，派遣使臣，乘雾下山向阏氏献上了许多的金银珠宝。

于是阏氏就对冒顿单于说：“军中得到消息说，汉朝有几十万大军前来救援，只怕明天就会赶到了。”单于问：“有这样的事？”阏氏回答说：“汉、匈两主不应该互相逼迫得太厉害，现在汉朝皇帝被困在山上，汉人怎么肯就此罢休？自然会拼命相救的。就算你打败了他们，夺取了他们的城地，也可能会因水土不服，无法长住。万一灭不了汉帝，等救兵一到，内外夹攻，那样我们就不能共享安乐了。”冒顿单于问：“怎么办呢？”阏氏说：“汉帝被围了七天，军中没有什么慌乱，想必是有神灵在相助，虽有危险但最终会平安无事的。你又何必违背天意？”冒顿单于本来与韩王信的部下王黄和赵利约定了会师的日期，但他们的军队没有按时前来，冒顿单于怀疑他们同汉军有勾结，就采纳了阏氏的建议，打开包围圈的一角，让汉军撤出。当天正值天气出现大雾，汉军拉满弓安上箭，从已经解除包围的一角慢慢地走出，才得以脱险。

“白登之围”后，冒顿单于屡次违背汉朝与匈奴所订立的盟约，对边界进行侵扰劫掠活动。刘邦尽斩先前进言匈奴可击的十几名使臣，并赦免刘敬，封为关内侯，食邑两千户，号为建信侯。

刘邦为了休养生息，采纳刘敬的建议，要嫁长公主与匈奴和亲，吕后不答应，日夜哭泣，刘邦改以宗室女为公主，嫁给冒顿单于，并派刘敬作为使者陪同前往。此后，各自以长城为界，两国的关系得到暂时的缓和。