1035年3月，范仲淹由知苏州左司谏秘阁校理员外郎，被调为礼部员外郎天章阁待制。至于是什么原因使他由地方调回皇帝身边，并没有记载。只有富弼为他写的墓志铭上说：朝廷知清议属公，就拜礼部员外郎天章阁待制召还。由此推断，可能是因为朝廷受清议的压力所致。

范仲淹回京后，因废后案而产生的宫廷之争，仍然余波未息。废后的次年，宰臣吕夷简等人曾上表请立皇后。因为自从郭后被废之后，尚、杨二美人愈得宠爱，宋仁宗沉于美色，不问政事，朝廷内外大为忧惧。依照章献太后之遗诏所立的杨太后，也屡次劝谏宋仁宗，但不见成效。后来迫于各方舆论，宋仁宗才被迫答应。

宋仁宗诏立宋初开国名将曹彬的孙女曹氏为后，改立皇后案总算完结。虽然有监察御史提出章献太后三年之丧未除，不宜马上册立的意见，但仍在当年，正式册立曹氏为后。

范仲淹回朝后，宋仁宗已经冷静下来，开始反思废郭后的前因后果。他逐渐感到范仲淹等台谏官当年所说“皇后无大过，不当废”，实不无道理，并渐有悔意。这时，被废的郭后居住在瑶华宫，宋仁宗带着歉意，屡次派人慰问。有时还作乐府词赐赠给她，她也和答，语言凄怆。

这时，太监阎文应非常担忧，因为他就是当年和吕夷简等人煽动废后的魁首之一。他担心万一郭后与皇帝又重归于好，或因此恢复地位，他难逃一死。趁着郭后身染小疾，毒死了郭后。

阎文应平日恃势作威，甚至有时矫造圣旨，连执政大臣也不敢违抗他，是个奸佞之人。这次漏洞百出的谋杀，更引起天下人的极度不满。

谏官姚仲孙、高若讷提出弹劾，说“中外莫不疑文应置毒者”，阎文应因而被贬到地方。范仲淹以天章阁待制的身份，列举阎文应的各项罪状，并拟就奏疏。

阎文应飞扬跋扈已久，虽被贬却仍有势力，所以范仲淹呈上奏疏后，他抱着孤注一掷的心情，把家里藏书中凡是有言兵者悉数焚毁，免得万一失败，被指为素怀异志，而遭灭家之祸。他还不吃东西，并嘱咐大儿子说：“我这次上疏，是要扫除君侧小人。若不胜，必定会得罪而死！我既死，你们兄弟从此就不要再做官，我只要你们在我的坟墓旁边，以教书为业，千万要记住。”

结果，范仲淹的奏疏获得皇帝的采信，并作出明确决定，放逐阎文应到岭南。不久，阎文应死于放逐途中。

当时，朝中的实权还在宰相吕夷简手中。范仲淹奉召回朝，他的作风不但一点也没改，反而论事益急，而且劝谏的范围愈来愈广，这使吕夷简一派对范仲淹的炮轰头痛万分。范仲淹为人正直小心，很难落人口实，想整他又不容易。因此，吕夷简只好暗中指使人嘲讽范仲淹，说他身为天章阁待制，是属侍从官，根本没有“口舌之任”，怎可不守本分，做起言官的工作来？范仲淹听到这种责难，他严正地回答：“论时事，正是侍从官的职责，我怎敢不勉力而为？”

吕夷简无奈之下，忽然想到政务繁重而难治理的开封府，于是决定调遣范仲淹前去治理。一方面可以使他无暇他顾；另一方面，等他有一天出了纰漏，可以马上予以罢斥，逐出朝中，正好去掉一个眼中钉。

1035年年底，诏命礼部员外郎天章阁待制范仲淹为吏部员外郎，权知开封府。

范仲淹在吕夷简别有用心的安排下治理开封府。哪知吕夷简的算盘打错了，在范仲淹的治理下，开封府是“处之弥月，京邑肃然称治”，反使他的声望节节上升。京师有歌谣曰：“朝廷无忧有范君，京师无事有希文。”可见，范仲淹在开封府很有政绩，也很得民心。

最令吕夷简坐立难安的是，范仲淹非但没有出什么纰漏，而且把公事化繁为简。吕夷简本想以繁重的公务使范仲淹无暇他顾，他的这个计谋，也无法得逞。范仲淹时时关心朝中之事，常取古今治乱安危之道，劝勉宋仁宗；对于朝廷的施政得失，仍然时时提出批评。

这时，发生了一件关乎宋朝立国安危的事情。之前，燕云十六州被契丹占据，使宋的都城暴露在敌人的铁骑威胁之下。宋之所以要建都开封，是为了漕运之利，漕运是为了将东南财富运到京师来给养大批的军队，而大批军队则是为了守卫京城，免受北方的侵扰。因此当时是“国依兵而立，兵以食为命，食以漕运为本，漕运以河渠为主”。

汉唐时代建都长安、洛阳，依赖天然屏障，而以最少的兵力守卫。但是宋为了迁就兵粮补给的方便，不得不以大量军队驻守在无险可守的开封。这种以人力代替山河之险的作法，宋太祖并不是不知道其危险性及所造成难以负荷的负担。所以在宋建国十六年的时候，就曾经想要迁都洛阳。群臣虽然反对，但却没人敢说话。

铁骑左右厢都指挥使李怀忠找了个机会说：“开封有汴渠水运，每年提供江、淮米数百万斛，京师数十万人均仰给于此。陛下有没有想过居留于洛阳将如何取得这些粮食？而且府库重兵都在开封，根本安固已久，不可动摇。”宋太祖对他的话并没有在意。当时身为晋王的宋太宗又再次进言。

宋太祖对这位弟弟寄望颇高，见他如此切谏，就解释道：“我打算西迁，不为别的，只是想据山河之险而去冗兵，循周、汉故事以安天下。”

晋王说：“在德不在险。”

等晋王告退后，太祖才很无奈地对左右说：“晋王的话固然不错，可是像这样继续建都开封，继续仰赖军队，以大批军力取代山河之险，则不出百年，天下民力恐怕就要消耗殆尽！”

这个问题再一次爆发了，朝中有人提出迁都洛阳，范仲淹不同意，为此他又上了一次书。范仲淹虽然不赞成迁都洛阳，却赞成充实洛阳。原因有二：一是他认为现在国家太平，不适宜讨论迁都的问题，这样会造成百姓的恐慌；二是洛阳是历代帝王之宅，负关河之固，边疆不宁时可以退而守之。这点虽然比开封有优势，但洛阳已经很久没有为都城了，没有粮食的积蓄，各种防护都老旧了，现在不宜迁过去。不过一旦国家真正发生急难，需要退处洛阳以守之的时候，将凭什么守？因此，要在洛阳做好各种储备。他又提出一个办法，就是由朝廷以各种名义，逐渐充实洛阳的府库储积。陕西有余，可运而下，东路有余，可运而上，数年之间，必可使洛阳达到战备状态。这样一来，就可以有运用的余地。

范仲淹提出的这个办法，不失为兼顾理想与现实的好构想。乍看之下，他反对迁都之议，似乎稍嫌保守，不够眼光。但从事实发展来看，当年澶渊之盟前，辽兵大举南下，有人主张迁商丘，有人主张迁四川，但就是没有人主张迁洛阳、长安，可见此二城的文化、经济条件已不复汉、唐旧观。

但是舍弃开封，实在也只有洛阳、长安可以拿来作为国都。而洛阳在当时的条件，除了据以防守的山河之险仍依旧以外，其他方面实在已不符合长久设为首都的要求。因此，范仲淹的意见，算得上是切合实际的权宜之计。

可是，北宋的首都始终没有依据山河之险的需要而迁移，这个争论，显然每次都因没有结果而不了了之。这个迁都争议，却是后来造成范仲淹与吕夷简二度大冲突的因素之一。

吕夷简与范仲淹在之前就爆发了直接的冲突。范仲淹看到宰相吕夷简广开后门，滥用私人，朝中腐败不堪。于是他力陈治乱之道，皆由于用人之得失，得人则治，失人则乱。而用人之得失，实属宰相之职。他说：“天子要日理万机，对于用人，当然不宜一手掌握，可是也不可不察”。于是，他特地绘制一张百官图，按照职级品位，排出合理的及不合理的升迁顺序，然后加注：“如此为序迁，如此为不次，如此则公，如此则私，不可不察也！”这张图等于直接抨击吕夷简用人不当、有私心。

宋仁宗以迁都之议询问吕夷简的意见，他回奏道：“范仲淹，迂阔至极，只会放高论以求名，所言都不符实际。”

范仲淹听说吕夷简竟然在皇帝面前如此说他，就写四论以献，四论包含：《帝王好尚》《选贤任能》《近名》《推委》。其内容大体都在讥指时政，并且很不客气地说：“汉成帝相信张禹之言，不疑舅家，所以才会有王莽之乱，臣恐今日朝廷中也有个张禹，正在坏陛下家法，不可不趁早辨识清楚。”

张禹曾是汉成帝当太子时的老师，汉成帝即位后尊他为师傅。后来拜相封侯，国家每有大政，必征询他的意见。有一次汉成帝怀疑外戚有问题，询问他的看法，而张禹因为自己年老，子孙又弱，不敢直言，最终导致了叛乱。张禹这种作风，很为当时的一位奇人朱云所不满，上书汉成帝“愿借尚方剑，斩佞臣张禹”！

吕夷简被范仲淹比拟为佞臣张禹，又被攻击为“以大为小，以易为难，以未成为已成，以急务为闲务”大坏皇帝家法。他大为震怒，怒气冲冲地到宋仁宗面前申辩，并指责范仲淹以京城首长越职言事，又专会荐引朋党，离间君臣。

范仲淹也不示弱，交章对诉，愈诉愈激烈，但最终没有斗过吕夷简的当权集团。被以当年曾密请立皇太弟侄的理由，再度被贬黜，出知饶州（江西鄱阳）。这件事的起因是这样的，宋仁宗已经27岁了，尚无子嗣。范仲淹可能是关心过宋仁宗的继承人问题，因此建议他立皇太弟侄为太子。这事虽然是出自为国家考虑的至诚忠直之心，却使宋仁宗很不高兴。于是吕夷简就从旁中伤，范仲淹再一次被贬了。

有一位叫韩缜的侍御史，为了迎合吕夷简的意思，扩大打击范围，奏请将范仲淹朋党的名单公布于朝堂，戒百官不得越职言事。这个建议马上获得采纳。“朋党”是皇帝最避讳的事情，宋朝的臣子被指为朋党，范仲淹及其支持者算是第一遭，并引起为期不短的朋党之争。

范仲淹被贬斥的消息公布之同时，京城也因为“朋党”两字的出现，而陷入紧张气氛中，士大夫都畏惧当权的宰相，深恐被牵连成为范仲淹党人。因此，范仲淹要离开京城时，没几个人敢去送行。唯天章阁待制李纮、集贤校理王质两人带酒前往饯行。

王质还单独留下来与范仲淹说了好几个晚上的话，有人因而谴责他。他却说：“像范希文这样的贤者，能够与他成为朋党，那是我的幸运！”王质向来明辨忠奸，嫉恶如仇。他曾经在蔡州为官，州内百姓为唐朝时曾在该地为乱的蔡元济立庙，王质知道后很不满地说：“安有逆丑而庙食者？”当即下令毁掉，改立狄仁杰及奉命讨平蔡元济的李愬，供百姓奉祠。他被指为范仲淹党人时，深以为荣。

还有几位任职于馆阁的官员，上书为范仲淹辩护。他们全被打为范党，并且同样遭到贬斥的命运。

秘书丞、集贤校理余靖上书，他说，范仲淹以前为太后上寿及废后案劝谏陛下，陛下犹以其合于典礼而加以优奖。现在刺讥大臣，却重加谴责，实在是前后矛盾。如果他所说的话，陛下听来不顺耳，其实听与不听都在陛下，怎可加以怪罪？汉朝的时候，汲黯在朝廷说公孙弘多诈；三国时代，张昭论将，说鲁肃为粗疏，结果汉武帝和吴主还不是都予以任用而无所猜忌？陛下亲政以来，曾三度罢斥言事者，恐非太平之政，请速改前命。结果余靖次日就被贬监筠州酒税。

太子中允、馆阁校勘尹洙也上言说：“臣尝以范仲淹正直信实、有原则、有操守，可说是良师益友。自从他获罪以来，朝中有人说臣也曾被他荐论过，依照朋党的说法，臣也算是范仲淹党人。现在他既然以朋党得罪，则臣也应当连带受罚才合理。所以，请让臣随从范仲淹一同贬黜，以明典宪。”吕夷简见尹洙竟然自愿、自请与范仲淹一起被贬，不禁大怒，就降他为崇信军节度掌书记，监郢州酒税。

此时，欧阳修也被卷入到这次争辩中来。他认为范仲淹平生刚正，通古今，朝廷中无与伦比，现在居然遭到这种下场，谏官难辞其咎。所以他责怪右司谏高若讷，身为谏官，竟不能辨别范仲淹的无辜。他严厉地谴责高若讷这个谏官“不复知人间有羞耻事”，还有什么面目见天下士大夫？又怎么配成天出入朝中称“谏官”？为此，高若讷暴跳如雷，他把欧阳修骂他的信送到朝廷告了欧阳修一状。

他说：“范仲淹贬职之后，臣遵奉谕旨，不敢妄加营救。现在欧阳修竟如此责备臣，说天子与首相只因臣下违逆其意而驱逐贤人，臣不谏不当。但臣以为，贤人者，国家赖以为治平者，如果陛下果真是只因贤人违逆陛下之意就加以驱逐，臣确实当谏；或者首相也以同样理由驱逐贤人，臣也当争。可是那范仲淹，因为以前论事切直而被进用，现在口发狂言，自取其辱，岂可说他是无辜？若让欧阳修这种论调流传出去，恐怕天下人听了，都真以为天子会因为臣下违逆其意而驱逐贤人，这样一来，损失可就大啦！所以无论如何，应惩治欧阳修来予以训诫，免惑众听。” 于是，欧阳修被贬为夷陵县令。

当时担任洛阳留守的蔡襄，根据这件事，写成《四贤一不肖诗》。四贤指的是范仲淹、余靖、尹洙及欧阳修，不肖指的就是高若讷。据说，这首诗写成后，京城内人人争相传抄，一时洛阳纸贵，连正好来访的契丹使臣也买了一份带回契丹。

在这次牵连甚广的政治斗争中，范仲淹由一个人的抗争变成一个群体的抗争。他引发士大夫“矫励尚风节”的运动，又进入另一个**。