曹操陈留起兵的同时，袁绍已经到达了河北，董卓自知袁绍势力不可小觑，便企图拉拢他，让他做渤海（今河北南皮东北）太守，羽翼丰满的袁绍怎么会答应呢？

于是，初平元年（190年），袁绍在河北联合冀州牧韩馥，并联络关东（函谷关以东）州郡一起声讨董卓，同时，参与其中的有另外十七路人马，因为袁绍家世显赫、声名远播，大家一致推举袁绍为盟主，袁绍自称车骑将军，他还给其他将领授予官职，其中，曹操被授予奋武将军一职。

在盟会上，众将领细数董卓暴行，决心同盟除暴、复兴汉室，盟会结束后，祭祀杀生、大宴三天，宴会上，袁绍安排了各路人马，比如，驻军河内的是袁绍与河内军长，而负责后勤供应的则是冀州州长韩馥，后将军袁术则驻军鲁阳（今河南鲁山）。曹操拥有五千人马，但是没有根据地，在军队给养方面，不得不受限于陈留军长张邈的帮助，在军队指挥上，也受他管制，因此，曹操和张邈都驻扎在酸枣。一时间，天下豪杰，都唯袁绍马首是瞻，唯有鲍信告诉曹操：“不是所有人都有智谋，能抚平这乱世的人是你，才能与地位不相符，即便再强大，最后也会坍塌，这些人也许是上天派来为你开路的吧。”

袁绍集结天下英雄豪杰建立联军的消息很快传到了京城，董卓听后惊恐万分，他做了两手准备，一面调动军队严密把守洛阳，另一面不顾大臣们的反对，准备迁都长安，他还命人将洛阳城中的地主豪强叫到一起，给他们安上一个罪名，然后全部处死，并没收他们的财产。随后，他将整个洛阳城中的百姓，共有百万之多，全部驱赶到长安。

要知道，洛阳和长安之间相距三百五十公里，路途遥远，中间有崤山、华山，道路险阻，很多人体力不支、跟不上大部队，但是只能无奈往前走，因为董卓命兵在后用绳子驱赶，因此有很多人因为疾病和饥饿而死在了路上，道路两旁不断有尸体出现。董卓自己则是留在了洛阳，然后一把火烧了皇宫、民宅、街道，原本热闹又繁华的洛阳，顿时成了一片焦土，火势蔓延了方圆三百公里。

这年三月五日，汉献帝长途跋涉抵达长安，因为董卓还未抵达，朝廷内外大小事便由司徒王允主持，王允在董卓手下隐忍，也深受董卓信任。

袁绍可能没想到，因为他起兵反董，董卓便杀了他的叔叔太傅袁隗、太仆（主管车马交通事宜）袁基以及其他袁家老小，甚至连嗷嗷待哺的婴儿都未被放过，一共五十几条人命被害，一时间血流成河，惨不忍睹。

董卓留守洛阳，迎击前来讨伐自己的关东军，关东军虽然阵容强大，但是各路势力的首领都是热衷于割据称雄的大豪强，彼此并不团结，又各自惧怕董卓的凉州军团强悍实力，都只想保存自己，因此，大家各怀鬼胎，谁也不愿意当出头鸟。

有一次，各路将领在袁绍的大营开会，曹操对大家说：“大家起兵，为的是讨伐董卓。现在董卓劫走天子，烧毁宫室，全国人心惶惶。这正是消灭逆贼的好时机，为什么还要犹豫不决呢？”

尽管曹操说得慷慨激昂，大家可一点也不热心。连盟主袁绍都不想动，谁还愿意先动手呢？

曹操看出他们只想保存实力，不想打董卓，心里很生气，就决定单独带着五千人马，向成皋（今河南荥阳汜水镇）进兵。所以便率兵向西，准备进驻成皋，张邈也派卫兹领兵随军。

董卓听到曹操向成皋进兵，早已派大军在汴水（在今河南荥阳西南）边布好阵势。曹操的人马刚刚到汴水，就遇到董卓部将徐荣的拦击。

徐荣兵多，曹操兵少，两下里一交战，曹操的人马就垮了下来。曹操骑着马往后撤走的时候，肩上中了一箭；他赶紧拍马逃奔，又是一支箭，射伤了曹操骑的马。那马一受惊，把曹操掀了下来。

后面徐荣的追兵呐喊声越来越近。正在危急的时候，曹操的堂弟曹洪将马给了曹操，曹操不接受，曹洪便说：“天下可无洪，不可无君！”便让曹操上马，自己徒步追从，趁夜逃走。而徐荣见力战了一日，酸枣又不是易攻之地，便率领兵马回去。

曹操损兵折将，回到酸枣，再看看他的同盟军，不但按兵不动，将领们还每天喝酒作乐，根本没想讨伐董卓。他满心气愤，跑到袁绍他们摆酒宴的地方，指责他们说：“你们以起义兵为名，却在这里犹豫观望，让天下百姓失望。我真替你们害臊呢。”

曹操经过这一次讨伐战斗，觉得跟这些人一起，根本成不了大事，但是自己的军队损伤太多，需要休养生息、进行补整，于是就和曹洪、夏侯惇等人前往扬州（今安徽淮水和江苏长江以南）一带招募人马，准备重整旗鼓。在扬州刺史陈温、丹阳（今安徽宣称）军长周昕的支持下，募集了四千多人，不料到龙亢（今安徽怀远西北）集合时，新兵发生暴乱，火烧了曹操的营帐，曹操持剑斩杀了叛乱的几十人。曹操从大火中逃了出来，但是依然追随自己的只剩下五百人，后来又招募到一千多士兵，加上曹洪的家兵以及汴水之战中剩下的士兵，共三千余人。曹操带着他的这支队伍继续北上，这次，他并不是在酸枣、兖州和“老上司”会合，而是直接到河内去找袁绍了。

不久后，酸枣的联军因为粮草不足和内讧而解散，兖州刺史刘岱和东郡郡长桥瑁互相仇视，两军火并，刘岱派王肱在东郡当郡长。曹操率领自己的部下到了袁绍处后，得到了元帅的热情款待，一次，二人在闲聊时，袁绍问曹操：“如果我们讨伐董卓失败了，你觉得我们以后往哪个地方发展势力呢？”

曹操没有直接回答，而是反问袁绍：“您觉得该怎么发展呢？”

“我想南靠黄河，北凭燕、代（今河北北部以及山西东北部），兼有戎狄（指乌桓）之众，向南一步步夺得天下，你觉得这样如何？”

曹操答：“我想依靠天下人的智力取胜。”

但是袁绍并没有将曹操的计谋放在心上，而是心中另有计划，这年年底，袁绍提出一个新方案——另立新帝。原来，袁绍担心自己在与董卓硬拼时战败，便找了一个借口：汉献帝年幼，又为董卓所困，不知是生是死。打着这样的借口，他同冀州牧韩馥一起谋立“宗室贤俊”的幽州牧刘虞为帝，然后让人私刻玉玺，派人送去幽州刘虞处，劝他称帝。

袁绍在与曹操商量此事时，曹操认为此举不妥，董卓的罪行人人皆知，在起兵反董卓时同盟军依靠百姓，这是因为同盟军是正义之师，汉献帝年幼，又受到董卓胁迫，有什么理由废掉他呢？如果这样，岂不是其他人也可以效仿，那就天下大乱了。

被曹操否决后，袁绍只好求助于他的堂弟袁术，谁知道袁绍的心思一下子就被袁术洞穿了，袁术怕拥立新帝对自己不利，因此竭力反对，而刘虞本人也不同意，这样，袁术想要拥立新帝的想法便破灭了。

这件事过后，冀州牧韩馥看到天下豪杰都唯袁绍马首是瞻，心存妒火，便暗中减少粮草的供应，打算让袁绍的部队因粮草不足而自行完结，此时，正遇上韩馥的部下麴义叛变，韩馥派兵镇压，反而被击败，袁绍抓住此机遇与麴义结交，之后又联络幽州降虏校尉公孙瓒南下进攻冀州，乘机胁迫韩馥将冀州割让出来，自此袁绍割据河北，成为黄河中下游一股不可小觑的力量。

190—191年，原来一同讨伐董卓的盟军已经完全进入混战状态，他们你争我夺，自相残杀，开启了一场旷日持久的大混战，加上之前董卓的迁都之乱，百姓也遭受到了极大的痛苦。

除了参加讨伐董卓的关东诸军外，其他地方的一些地方武装集团也割据一方，各自发展势力。

到197年以前，各地区的主要武装割据势力分别是：

辽东（今辽宁一带）被公孙度占据；

幽州（今河北北部）被刘虞和公孙瓒占据；

冀州、青州和并州（今河北中南部、山东东北部和山西大部）被袁绍占据；

南阳（今河南西南部）被张绣占据；

扬州一部分（今淮河下游南部、长江下游北部）被袁术占据；

徐州（今苏北、山东东南部）被陶谦、刘备和吕布先后占据；

孙策占据江东（今长江下游以南）；

荆州大部分（今湖北、湖南）被刘表占据；

益州（今四川、贵州和云南北部）被刘璋、刘焉占据；

汉中（今陕西南部）被张鲁占据；

司隶（今陕西中东部、河南西部）被董卓、李傕、郭汜等先后占据；

凉州（今甘肃、宁夏和青海湟水流域）被马腾、韩遂占据。

这些势力为了扩大自己的人口和土地范围，互相倾轧，展开了接二连三的兼并战争，而此时占据兖州的曹操，在其中的力量无疑是弱小的，他当下要做的就是扩充自己的实力。