建安十三年（208）初，曹操回到邺城，准备南下翦灭孙、刘。七月出兵，荆州刘琮闻风而举州投降。刘备南逃，在当阳溃败，奔夏口。曹操占领江陵，收编荆州部队，沿江而下，要与孙、刘决一雌雄。不料在赤壁惨败，他领残兵败将从华容（今湖北监利）逃回江陵，留下曹仁、徐晃守卫，自己退回北方。不久江陵失守，曹军退守襄、樊。

赤壁之战后，孙、刘势力增强，曹操只得对他们采取守势，因而把兵力转向关陇、汉中，以便进窥巴蜀。

建安十六年（211），曹操出兵关中。关中各路军阀以马超、韩遂为首，立即联合起来，屯据潼关，阻击曹军。

曹操把军队集结在一起，吸引住马、韩，两军夹潼关而阵。暗中却派徐晃、朱灵领兵北去，从蒲阪津（今山西永济）渡过黄河，在河西筑起营塞。然后，他把大军从潼关北调，与徐晃军会合，并且占据有利地形，向南推进至渭水北，巧妙绕过天险潼关进入关中。马、韩只得弃关退兵，把防线设在渭水南的渭口（今陕西华阴）一带。这时，曹操又设疑兵迷惑敌人，派兵偷渡渭水，并且架起浮桥，夜里分兵去渭水南岸扎营。马超得知，连夜攻营。曹操设伏兵迎击，马超惨败。

这年九月，曹军全部渡过渭水。马超数次挑战，曹军坚壁不出，马、韩便请求割地，送人质求和。曹操用贾诩之言，佯作允许，背地却设计离间关中诸将的关系。他利用与韩遂父亲的旧情，始和韩遂并马亲切交谈，继而送去涂改了的信，使马超等人怀疑韩遂，产生不和。计成之后，曹操约马超会战。交战时，曹操先以小股部队应付，然后用猛骑前后夹击。马、韩相疑，诸将不能协力同心，被曹军打败。马、韩逃向凉州，其他将领有的被杀，有的投降。韩遂后来被部下杀害。马超到凉州后无法立足，又去汉中，最后投降刘备。关中、凉州先后归入曹操辖地。

关中平定后，曹操曾向将士解释他的用兵谋略：集兵潼关，是为了吸引敌人兵力，造成河西空虚，便于徐晃过河；徐晃过河后，又作为潼关之军渡河的掩护力量，敌人便奈何不得；我军渡河后坚壁不出，麻痹敌人，然后以“疾雷不及掩耳”之势出击，因而获胜。的确，在渭南一战中，曹操处处掌握作战的主动权，表现出不凡的军事才干。