董卓逼迫汉献帝到长安后，不久为王允、吕布所杀。董卓部将李傕、郭汜又拥兵作乱，杀死王允，赶跑吕布，控制了献帝和公卿大臣。这批凉州军将领把持朝政后争权夺利，相互厮杀。杨奉从中斡旋，几经周折，又将献帝和公卿护送回洛阳。

汉室天下虽已如大厦将倾，但献帝作为国家最高权力的象征，仍有影响。谁能把皇帝控制在手，谁就有发号施令的主动权。当时，不少人都看到这一点。谋士荀彧、程昱劝曹操迎献帝，取得政治上的优势。曹操欣然同意，马上派曹洪去洛阳护驾，表示忠心。

献帝到洛阳后，朝中当权人物杨奉、董承、韩暹等人仍有矛盾。曹操利用他们的矛盾，通过杨奉，得拜镇东将军，袭父爵为费亭侯。然后，他领兵进京，赶跑韩暹。在朝见献帝后，他被授节钺，任司隶校尉，录尚书事。

当时洛阳残破，守将各怀异心，不听从调令。董昭建议曹操将天子迁往许昌，并献策稳住杨奉，使之不从中阻拦。曹操大喜，依计而行，迁献帝去许昌。杨奉得知，领兵半道抢夺献帝，结果被打败。献帝到许昌后，改元建安元年（196），以曹操为大将军，封武平侯。

曹操权势剧增，袁绍极为不满。其时，曹操实力远不如袁绍，不得已让出大将军一职给袁绍，以缓和与袁绍的矛盾，自己任司空，行车骑将军事。但是，他以荀彧为侍中，守尚书令，掌管宫中机要，以控制中央大权。从此，曹操取得了“挟天子以令诸侯”的有利地位，征伐异己，令出于天子，名正言顺。

迁献帝于许昌后，曹操一方面重建宗庙社稷及各种祭祀制度，另一方面采纳枣祗、韩浩等人的建议，实行屯田，恢复和发展生产，解决军粮问题。