南方自主军队组成广东军政府，反抗北方，本来与北方各执己见，不相通融，但对依法继任的冯代总统还是承认的，只与段祺瑞交恶。因此，冯总统的通电发出后，广东军政府接着发一通电，不承认北京新国会，更不承认其选举出来的总统。
南北两方一呼一应，都来反对段祺瑞。段暗想人众我寡，何苦强出头，还不如与冯国璋一起下台。于是，段宣告，愿与冯一同下野。小徐仍不罢休，非要将段扛抬上去。段总理思深虑远，不愿冒险一试，不管小徐如何怂恿，他就是打定主意坚决不冒险。但冯、段二人全下野，总统的宝座究竟属于谁呢？难道中华民国从此没有总统了吗？于是，小徐邀梁士诒、王揖唐等人开秘密会议。除冯国璋、段祺瑞外，只有一位资深望重的大老有担任总统的资格。这位大老就是前清内阁协理大臣，袁世凯的国务卿徐世昌。
徐世昌本非军阀，不过他在前清时外任总督，内握军机，与军阀家往来已久，为武人所倾心。这次，徐久居天津，名为修身养性，实则对中央政事无不预闻。从元首到军阀，全因他老成重望，随时咨询，将他的片言作答奉若准绳。徐世昌可谓是北方泰斗。小徐等人主张推举徐，无非因南北纷争，形势日益恶化，国璋、祺瑞既然愿意一起下野，不如拥戴老徐，或许还可制服异类，保持本派势力。主意打定后，小徐马上派人到天津劝驾。徐世昌向来圆滑，怎么会一请就来呢？免不得要做一个谦谦君子。小徐按计划进行，促令新国会开议，选定王揖唐为众议院议长，组织总统选举会，在规定的日期内举行。九月四日，议会选举新总统，到会议员共四百三十六人，上午十点投票，午后开箱验票。徐世昌竟得了四百二十五票，当选为总统。当场由议会备文咨照国务院，国务院立即通电各省，并通告全国。第二天，举行副总统选举会，等到中午，两院议员到场还不到一半。议长当场计算，所有到会议员不足法定人数，即使投票也属无效，只好延期选举。从那么一天天拖延，竟将副总统问题搁置一边，纯粹不再提议了。徐世昌听说自己当选，赶紧发一通电，恳辞总统一职。
当时，国会仍照旧制组成参众两院，既然已由徐树铮暗中操纵，王揖唐竭力鼓吹，产出新总统徐世昌，众人怎么肯再让他辞去呢？于是由两院联名，坚决请徐世昌出山。就是代任终期的冯国璋也生怕徐世昌不来，而改选段祺瑞，所以致电老徐，格外敦劝，真诚地希望他能接受总统一职。
国务总理段祺瑞已决定牺牲职位与冯国璋一起下野，乐得卖个人情，向徐世昌致劝驾书。此外，如黄河、长江两大流域所有督军、省长等都一致拥戴徐，电文络绎不绝地传到徐府，无非请徐如期就职，保护黎民。唯独广东军政府中岑春煊、伍廷芳两总裁拍电致徐，劝他千万不要就职。
古人有言“一傅众咻，终归无效”。徐世昌当选总统，中国有十八、九个省表示赞成，只有广东数省劝他不要就职，这显然就是一傅众咻。中华民国大总统的职衔是所有人求之不得，梦寐以求的，徐世昌也是血肉之躯，他难道不愿接受这飞来的富贵吗？其实，徐再三推辞，不过是掩人耳目罢了。各处请驾的电文像雪花般飘到天津，老徐检阅一番，见只有广东军政府反对。老徐暗想广东方面寡不敌众，远难图近，岑、伍即使硬来拦阻，也是人寡地远，无力回天还不如等自己登台以后，再与他们言和，如果不同意，再做计议。人生在世，能就此出些风头，也好作为一生的纪念。想着想着，老徐怦然心动，决意就职。但他没有马上动身入京，而是等各方面再来敦促。果然不到几天，京内外的促驾电报连番拍来，老徐这才提出“息事宁人”四字，作为借口，同意赴京就职。好不容易又挨过一二十天，到了民国七年国庆日，徐世昌这才收拾行李前往北京。冯国璋听说徐世昌即将到来，特地于十月七日发出通电，陈述一年中的情形及时局现象。
据说冯国璋向来贪财，从前担任苏江督军时，贩运烟草，官商并营。此次总统卸任，冯将总统府中所有值钱的物件，一股脑儿搜拢来，移出外府，据为己有。就连南北海中的禁鱼也被冯全部卖掉，只剩下历年档册，移交后任。
民国七年十月十日，正是国庆纪念日，京都上下，争迎新总统莅任。上午十点，一位头发花白的老人穿着制服登堂，行就职礼。一切礼仪全照历届总统就职的成例，所有誓词也沿袭旧文，没有大的改动。文武百僚群来谒贺，很是热闹。由新总统委派的秘书长代读莅任宣言书后，就职礼告成，大家陆续散去。于是，冯政府告终，徐政府开始了。
徐世昌既然以“息事宁人”为借口继任，当然是主张和平，不能再战，这与段祺瑞的政策绝对不同。段因主战无功也有倦意，再加上之前曾宣告众人，与冯一同下野，冯已离去，他若再恋权，岂不是言而无信，坐失人格吗？段于是提出辞职书，呈入总统府。徐总统虽无意留段，但仍虚与周旋，派人慰留。见段祺瑞决意告辞，徐总统便下令允准，改命内务总长钱能训暂行兼代国务总理，但参战督办一职仍属老段。段也不再谦虚，专顾参战事务去了。
南方军队自从组成军政府后，与北方对垒分峙，分做两头政治，有些不容易融和。于是，徐总统令钱总理及各部总长联名通电，传达南方，商量休兵息战的办法。
北方新选总统，广东非常国会当然反对，并曾于双十节前一日，特开两院联合会议，决定暂时委托广东军政府代行国务院职权，总统选举从缓举行。议案订立后，非常国会咨照广东军政府。军政府立即开政务会议，承认国会议决案。当日通电宣告，由广东军政府代行国务院职权及大总统职权。
由此可见，南北论调是绝对不能相容的。不管北方的徐总统与钱总理如何劝告，也属枉然，徒落得口干舌燥。徐总统不肯罢休，想从外交上着手，联络美、英、法、日、意各国从中调停，力谋南北统一。而美国总统威尔逊曾一再演说，力劝世界和平，中国为世界的一部分，理应如美总统所说，列入和会。只是现在南北自相争扰，内部尚且未和，怎好对外？所以，徐总统穷思极想，呼求外援。外国人也愿意助一臂之力，于是徐总统发一命令，让前敌军队全部罢战。
随后，美国公使出来帮忙，向广东军政府提出说帖，劝南军速息内争，自谋统一。于是，广东军政府通令前敌各军，全体休战。政务总裁岑春煊等人发一电文传到北京，寄给徐总统，决定以上海租界为中立地点，仿效辛亥前例，由双方各派相等人数的代表，委以全权，举行会议。徐总统接到电文，喜出望外，立即复电表示同意。同时，由国务院附致一电，提议“双方各派代表十人，临时推选首席，共同协议。会议地点选在南京，最为合适”。北方这边，拟委任江苏督军李纯主持。李纯本来听从冯国璋，向来主和。他联同江西督军陈光远、湖北督军王占元，称为“长江三督”，与主战派对抗。此次徐政府鼓吹和平，李纯当然同意主持，所以与中央往来文件中，除例行公事外，多是筹商和平的办法。只是北方想在南京议和，南方想在上海议和，双方因议和地点争持不下，所以尚未决定何时开议。不过总算有了一丝和平气息。
此时，欧洲战事已经平息，于是英、美、法、日、意五国公使奉五国政府训令，愿出面为中国南北和议做调解人。五国公使先是提出劝告书，递交北京政府，随后又电令驻粤领事，向广东军政府致书劝和。
徐总统与钱总理已得到外国承认，于是立即通电各省，召集督军到北京商量和议的办法。奉天、安徽、直隶、吉林、湖南、湖北、江西、山西等省的督军以及淞沪护军使卢永祥，绥远都统蔡成勋等都先后到京。徐总统特地选了集灵囿四照堂作为会议场。而后，徐总统带着全体国务员和参战督办段祺瑞入堂开会。各督军有许多原是主战派，但迫于内外压力，也就不再坚持之前的观点，都见风使舵，同声呼和。就连势必平南的段督办也认为久战无益，对主和提议表示赞同。大会讨论了大半天，主要商议了五个问题：一、停战撤兵；二、如何应付外交；三、停战之后各省的善后工作；四、收束军队的办法；五、整理财政的用途。第二天，政府将议决通电各省。各督军陆续出京，各回原任。随后，禁募军队，各种弭乱求治的通令陆续颁布。另外，熊希龄、汪大燮为疏通与协约国之间的感情，特在北京发起协约国国民协会，熊希龄为会长，汪大燮和法国人铁士兰为副会长。总统府中则特设外交委员会，汪大燮为会长，熊希龄等人为委员。委员会的职责主要是调查、审议对外事项。此外，如全国省议会、商会、教育会也都推举代表，在北京组织全国和平联合会，于民国七年十二月十八日成立，旨在推进南北和平。
民国八年二月中旬，北京政府命朱启钤到南京，作为南北会议全权代表，会同江苏督军李纯开始议和。广东军政府推选政务总裁唐绍仪作为南方总代表，但唐绍仪到了上海，不肯再前往南京。费了一番笔舌，经江苏督军李纯调解，北方同意南方的要求，将议和会场改在上海。民国八年二月二十日上午，借上海旧德国总会为会场，南北总代表各引分代表同莅会所，两派并聚一堂，差不多与辛亥会议的阵势相似。
会议开始后，先由南、北总代表各陈宗旨，然后各代表们全部起立，向着国旗，欢呼：“中华民国万岁！和平统一万岁！”闲谈几句后，就散会了。第二天，开始正式会议。南方总代表唐绍仪首先提出陕西问题，要求撤换陕西督军陈树藩。原来，南方国民党于右任曾到陕西境内纠结党人，与陈树藩有过摩擦。陈树藩本是段派健将，坚决不让国民党占据一丁点儿领土，因此屡攻于军。于军不甘退让，双方一直相持不下。徐政府虽已通令停战，但陈树藩有段祺瑞为靠山，根本不把中央命令放在眼里，仍自由行兵，所以唐总代表首先质问，要求将陕西督军撤换。北方总代表朱启钤愿意转达中央，立即草就电稿派人拍发，请政府速令陈树藩停战。此外所议的事情如八年公债、参战借款以及湘督军张敬尧仇视国民党等，对于这些问题，双方没有大的分歧。
次日，接到徐政府的复电，说已特派张瑞玑赴陕监视，责令陈树藩立即停战。于是，唐绍仪、朱启钤两个总代表商榷，决定用和会名义致函张瑞玑，催他立即赴陕，监督、束缚两方军队。函电发出后，双方约定等陕西停战后，继续开会。过了两天，再次开会。南方总代表唐绍仪取出陕西于右任来电，声称陈树藩部下刘世珑仍率众进攻于军，显然违背和议的宗旨，北方应担负责任。朱总代表只好申电陈请，权词相答。又过了两天，唐绍仪邀朱启钤开会，出示陈军依旧挑衅的警电。朱总代表无言以对，只说政府如不速停陕战，他便辞职。转眼已是二月二十八日，唐总代表在会议席上向朱总代表抗议陕西战事，限期四十八小时内答复。朱总代表自觉中央理屈，不便议和，特与各分代表全体致电北京，请求辞职。徐政府复电慰留，并令陕西全体停战。
徐政府虽决意停战，希望南北好和，但陈树藩却不听从徐政府命令，备战不休。不久，南方总代表唐绍仪接到于右任亲笔书函说：“陈树藩密奉参陆处电文，促令继续进攻，因此从北京运往陕西的军械，从参陆处或从汉阳兵工厂陆续出发，络绎不绝。”唐总代表当即提出宣言书，认为北方缺乏诚意，要求中止和议。第一次和议就这样暂停了。江苏督军李纯得知消息后，非常气愤，特拟定了五条办法，电陈中央征求同意。徐总统原无他意，不过受人牵制，未能贯彻主张，现在有了李纯的电请，自然照准。李纯又电达广东军政府，征得同意后，通告全国：
……惟以中央颁布停战罢兵令，广东军府也通令停战罢兵，各省虽皆奉行，而陕、闽、鄂西等处尚有纠葛，经多次协商，定简捷之办法：
一、陕、闽、鄂西各方，一律严令实行停战。
二、援闽、陕军队立即停止前进，担任后方剿匪任务，嗣后不再增援。
三、闽省、鄂西、陕南，由双方将领直接商定停战区域办法。签字后，各呈报备案。
四、陕西省内部由双方总代表公推德高望重的人前往监视区分。
五、划定区域，各军队担任剿匪卫民之职责，勿相侵越。
李督军的通电发布后，上海和会又有了复活的趋势。