建安二年（197）正月，曹操向外扩张势力，首先向南攻宛城张绣，张绣不战而降。由于曹操纳张绣叔母为妾，并且派刺客行刺张绣，张绣怨恨叛曹，突然对曹操发动攻击。曹军措手不及，死伤甚众，曹操长子曹昂、侄子曹安民被杀，典军校尉典韦据守营门，保护曹操，力战而死。曹操仓皇逃命，左臂受伤，几乎丧命。后张绣战败又降，曹操不计前仇，重用张绣。张绣在以后的征战中立下不少战功。

在与张绣战后，曹操又讨伐袁术。袁术于建安二年正月在寿春（今安徽寿县）称帝。曹操领兵征讨时，袁术经过与吕布的交战，力量已被削弱，和曹军一交手便不堪一击，败退到淮水之南去了。曹操又回兵向东，攻徐州的吕布。

徐州在陶谦死后，由刘备任州牧。吕布被曹操逐出兖州后投奔刘备。不久，他借故袭夺徐州，赶走刘备，刘备只得投奔曹操。建安三年（198）十月，曹军攻取彭城（今江苏徐州），进围下邳。吕布固守，曹操久攻不克，打算退军。荀攸、郭嘉劝他决泗河、沂河堤岸，引水灌城。依此计行，下邳城内外一片汪洋，曹操获得成功。吕布部将陈宫请降，吕布也被迫投降。曹操在下邳城白门楼上处死吕布、陈宫，收降了张辽、臧霸等人。

袁术当时龟缩扬州，不敢妄动。后来势穷力竭，想北投袁绍，又为曹军所阻，于建安四年（199）四月呕血而死。

刘备于曹操攻灭吕布后不久反曹，杀曹所置徐州刺史车胄，袭夺下邳。曹操得知消息，置袁绍于不顾，亲率大军东征刘备。一些将领对此举不甚理解，曹操说：“夫刘备，人杰也，今不击，必为后患。”刘备被击败，逃往河北袁绍处。

曹操在消灭吕布、降服张绣、赶跑刘备、击溃袁术之后，新得徐、扬二州，控制了黄、淮之间大片地区，实力增强，便拉开了和袁绍决战的架势。