建元初，汉武帝召韩安国入朝，先是让他担任北地都尉，后来升为大司农，再后来担任御史大夫。

入朝后，韩安国说话、做事的画风顿时大变。毕竟此一时彼一时，虽然同样是运用三寸不烂之舌，但这时候的他再也不是那个人微言轻的韩安国了，若还与之前一样，那就显得太不搭，甚至是有点迂腐可笑了。比如在对待匈奴这件大事上，他不但一改过去“可怜巴巴”的样子，还敢与其他大臣展开激烈辩论。

据《史记·韩长孺列传》，建元六年（公元前135年），匈奴派人来请求和亲，汉武帝让大臣们讨论。

大行令王恢主张废除文、景两朝实行了多年的和亲政策，改为硬碰硬，或者干脆主动对匈奴进行军事打击。因为根据文、景两朝的情况来看，和亲虽然暂时管用，但过不了几年匈奴就会背弃盟约，所以“不如勿许，兴兵击之”。

韩安国立即表示反对：

千里而战，兵不获利。今匈奴负戎马之足，怀禽兽之心，迁徙鸟举，难得而制也。得其地不足以为广，有其众不足以为强，自上古不属为人。汉数千里争利，则人马罢，虏以全制其敝。且强弩之极，矢不能穿鲁缟；冲风之末，力不能漂鸿毛。非初不劲，末力衰也。击之不便，不如和亲。

他的大意是说，派军队到千里之外去作战，基本上没有取胜的可能。如今正是匈奴兵强马壮的时候，他们怀着禽兽般的异心来去如飞。他们是以逸待劳，咱们的军队即使能到达，也已是人疲马乏，就好像强弩之末，连一匹最薄的白绢也射不穿，又好像从下往上刮的风，到最后连一根雁毛都吹不起来。如果咱们主动找上门去，等于是让匈奴人利用他们的优势对付我们的弱点，就像一个武艺高强的大汉面对一个行将就木的重病老人，还没动手就胜负已分了。这么看来，发兵攻打实在是下下之策。如果不考虑这些客观因素强行用兵，后果不堪设想。

韩安国的意见得到群臣附和，原本不想继续和亲的汉武帝在仔细品味了韩安国的话之后，也同意了和亲。