1924年年末，孙中山北上抵京，不仅与胡适的空间距离缩短，而且两人有了再度见面的机会，可惜这一次并非为了国事，而是因为孙中山病情垂危，协和医院束手无策，名中医陆仲安致函孙中山家属，“谓西医称中山病为不治之症，按中华医理，肝旁如硬木者，非肝癰即肝疽，有药可治，并非不救之症。但肝癰肝疽，有阴阳虚实之分，不可混同施治”。[20]随侍诸人欲荐中医，担心从来不信中医的孙中山拒绝。1920年，陆仲安曾治好胡适所患令西医束手无策的肾炎，轰动一时，由胡进言，孙或不峻拒，遂推李煜瀛赴天津访胡。胡适开始觉得责任太重，面有难色，抵京后经汪精卫一番劝说，尤其是提到孙“平时对胡甚客气，换一生人往说，或可采纳”，乃于2月18日偕陆同往。入室进言，“（孙）先生语胡曰：‘适之！你知道我是学西医的人。’胡谓‘不妨一试。服药与否再由先生决定。’”孙夫人也乘机间言，孙中山才勉强同意。[21]此事对孙中山的病情并无妙手回春之效，但从中可见胡适在孙中山面前的地位与分量，以及胡适不避嫌疑的侠义，两人似已捐弃因陈炯明事变而生的前嫌，修好如初了。
不过，胡适后来却一再矢口否认他被陆仲安治愈过重病之事[22]，其原因除了与自己的西化主张不合，担心有碍于科学发展外，更重要的恐怕是不断有人将此事与孙中山逝世联系起来，令胡适担忧别有用心者借机陷害。以胡适在台湾的处境论，采取诸如此类的自保措施也在情理之中。
1922年胡适与国民党之间由陈炯明事变而起的互相指责，虽因李大钊致胡适的一封来函逐渐平息，矛盾却依然存在。而且胡适刚刚为被逐出宫的清室出头辩护，又于2月初参加举国反对的善后会议，声誉大为受损，遭到许多进步人士的批评谴责。孙、胡二人能够冰释前嫌，别有原因。其中对于善后会议的态度，为一大关键。
孙中山北上前发表宣言，“对于时局主张召集国民会议，以谋中国之统一与建设”。国民会议正式举行之前，应召开预备会议，决定国民会议的基础条件及召集日期、选举方法等事。[23]但在进京途中，段祺瑞却提出召开善后会议来决定国民代表会议组织法及解决各种军制、财政和时局问题。两相比较，国民会议预备会与善后会议的最大不同之处在于组织构成，前者由现代实业团体、商会、教育会、大学、各省学生联合会、工会、农会，以及共同反对曹、吴各军及政党代表组成；后者则由有大勋于国家者，反对曹、吴各军最高首领、各省、区及蒙、藏、青海之军民长官，由段祺瑞聘请或派充的有特殊资望与学术经验者组成，排斥民众团体，为军阀官僚所垄断。按照孙中山的《北上宣言》，国民会议预备会的团体代表由各团体之机关派出，人数宜少，以便迅速召集，而国民会议的组织，其团体代表与预备会议同，只是代表须由各团体直接选举，人数当较预备会议为多。由预备会议来决定国民会议的组织及日程，其民意基础当有一定的保障。反之，依据《善后会议条例》，国民会议的组织必然不利于民众的参与或民意的体现。
从公开表态看，孙中山开始不赞成善后会议。[24]1924年12月4日在天津会见段祺瑞的代表许世英时，拒绝签署有关条例，并请转达意见。后在包括“现代评论派”在内的一些人士的劝说下，孙中山一度也不反对参加善后会议。1925年1月16日，陈源等人以《现代评论》社名义请汪精卫、吴稚晖等国民党领袖吃饭，席上力劝国民党加入善后会议。汪精卫答称他自己是如此主张，孙中山也有此意。[25]次日，孙中山复电段祺瑞，批评善后会议权限太宽，而构成分子皆为政府指派，人民团体无一得与，偏于实力，而忽略民意。但考虑到具体情况，则不坚持预备会议名义，要求善后会议兼纳人民团体代表，而将最后决定之权，归于国民会议。[26]
后来段祺瑞只同意于善后会议所设专门委员会中聘请各省议会议长及教育会、农会、商会会长为专门委员，国民党因而拒绝参加，并在全国各地发起国民会议促成会，抵制和反对善后会议。而社会上仍有国民党赞成善后会议的传闻，1925年2月17日上海《新闻报》的“北京通信”称：“孙科曾对党员言，谓奉总理之命，望同志尊重孙、段、张合作之宣言，出席善后会议，以竟全功云云。”这引起陈独秀等共产党人的批评。[27]但由此可见，在表面的分歧和反复下，国民党对待善后会议的态度与胡适有相当多的沟通共鸣之处。
胡适一生爱惜羽毛，从政却往往有心立异，这一次他再度不惜身败名裂，抱着试一试的想法，出席被国人指为“分赃”的善后会议，遭到很多人尤其是青年学生的痛斥，最终不得不中途退出。[28]不过，胡适此举，绝非投机，针对各方面的批评，他在日记中自解道：“我此次愿加入善后会议，一为自己素来主张与此稍接近；二为不愿学时髦谈国民会议；三为看不过一班人的轻薄论调。”[29]
胡适主张开和平会议，始于1922年6月。开始他提出《我们的政治主张》时，还是要求南北协商召集民六国会。后因讨论过程中这一条遭到非议较多，遂转而寻求其他方式。6月17日，胡适为《努力》赶成《政治与计划》一篇短评，以符合其前此提出的“有计划的政治”的主张，其中关于统一的计划第二项即为和会问题，名为“统一会议”、或“南北和会”、或“联省会议”，至于具体的组织、产生、权限等事，未及细论。[30]
7月，胡适的朋友李剑农在《努力》第11期至12期连载《民国统一问题》，主张由联省会议制定联省宪法。胡适从法理上反对由联省会议制宪，但“赞成有一个各省全权代表的会议来解决这几年发生的许多事实上的问题”。[31]不久，黎元洪派往上海的代表也提请早日召开各省代表会议，解决事实问题。胡适认为各省会议与国会两不相妨，应当从速召开。8月底9月初，得知孙中山与吴佩孚可能联络共事，胡适给予二人几点忠告，其中两条是“只有公开的各省代表会议可以解决现今的时局。只有公开的会议可以代替那终久必失败的武力统一”[32]，并且讽刺直系军人通电反对联省会议的举动。
9月，曾经签名主张好政府主义的王宠惠奉命组阁，胡适忍不住拟了一个假定的《解决目前时局的计划》，以《假使我们做了今日的国务总理》为题，发表于《努力》周刊第20期，其中关于政治的第一项，就是“由北京政府速即召集一个各省会议”，名称可叫作“全国会议”或“统一会议”，其组织由每省派会员四人（省议会举一人，省教育会与省商会各举一人，省政府派一人），中央政府派三人，国会举三人。其权限为讨论并决定与国会权限不相冲突的裁兵与军队安置、财政、统一、省自治与交通发展计划等问题。[33]胡适后来虽然谦称这是一个平庸的提议，却反复强调，一再坚持。在《努力》周刊第22期（1922年10月1日）、28期（1922年11月12日）、35期（1922年12月31日）以及75期（1923年10月21日）上，胡适不厌其烦地一再将有关内容逐字逐句反复陈述，其中包括新年颂词和《努力》停刊时的全面回顾，也以此为主要或重要内容，强调“在今日的唯一正当而且便利的方法是从速召集一个各省会议，聚各省的全权代表于一堂”，公开讨论和决议统一办法，并且盼望全国舆论界一致督促中央早日进行。
1923年10月，胡适在上海遇见香港的何东爵士，后者近来极力提倡召集和平会议，自曹锟贿选成功后，觉得此事不易成了。[34]胡适称何东是近来鼓吹各省会议的“一支意外的生力军”，并同意其看法：曹锟贿选后，“和平会议的梦想也更少实现的希望了”。[35]此后政局变动不居，胡适的梦想却一直没有放弃，当他接受段祺瑞电邀时说：“我是两年来主张开和平会议的一个人，至今还相信，会议式的研究时局解决法总比武装对打好一点；所以我这回对于善后会议虽然有许多怀疑之点，却也愿意试他一试。”[36]
胡适的各省会议，与其联省自治主张相适应，这一点与孙中山的政见不一致。但是，尽管联省自治与国共两党的政治主张皆相抵触，却并非不可调和。因陈炯明事变而起的冲突过去后，国民党对胡适的善意变化有所回应。1923年夏季，胡适的好友任鸿隽等人筹备召开科学社年会，预定的讲演委员中，有胡适和汪精卫。后者答应准到，并且希望见见胡适。1924年11月，任鸿隽致函汪精卫，极力主张联省制，要其向不赞成此制的孙中山从容进言。[37]各省会议的组织在民意基础方面，与孙中山的国民会议比较接近。至于目的，孙中山在几次讲话中提出国民会议要打破军阀，打破列强的侵略，以及解决国内的民生问题[38]，胡适至多涉及打破军阀一点。但国民党正式发表的《最小纲领之宣言》，关于国民会议之主要任务，“惟在谋国家之统一与重新建设”[39]，与胡适的主张基本一致。可以说，胡适与孙中山在直接的政治主张方面没有根本分歧。反之，胡适的一贯主张与段祺瑞的善后会议规则的精神相去甚远。
胡适是唯一以学者身份参加善后会议的，曾因陈炯明事变向胡适大张挞伐的国民党上海《民国日报》对此似乎网开一面，发表评论道：“胡适之是素来主张军阀的和平会议与好人政府可以解决国事的，现在的善后会议正是胡先生理想中的和平会议，以为这会议可以产生一个胡适之、段祺瑞、江亢虎等的好人政府，来澄清中国的政局。我们且等着，看胡先生参加军阀会议的第一次尝试。”[40]不仅如此，国民党人针对善后会议发起的北京各界国民会议促成会，还聘请胡适担任国民会议组织法研究委员会委员。
对国民党的政策具有相当影响力的苏俄人士，如鲍罗廷、加拉罕等，一开始就支持孙中山北上。当孙中山面临是否参加善后会议的抉择时，他们又建议国民党做出肯定的决定，并提出一系列条件，以便把参加善后会议变成宣传国民党行动纲领的最好方式。只是在国民党的反对下才没有坚持到底。[41]
与国民党实行合作的中共自1923年即提出召开国民会议[42]，该党一度反对孙中山北上[43]，又反对善后会议，1925年1月10日中共中央发出第24号通告，仍然斥责善后会议，准备发动示威抗议，“国民党代表及名流如果出席善后会议时，即电请他们主张另行召集人民代表的预备会议”。[44]但或许受俄共的影响，在1925年1月16日的中共第四次代表大会上，“反对孙中山参加段祺瑞会议”等的立场被推翻，“左”派幼稚病和“消极性”似乎已被铲除，代表们赞成（老）中央的决议，“即国民党应有条件地参加段祺瑞会议，条件是要有所有‘主张召开国民会议的团体’的人民代表参加”[45]。
1月19日，中共中央政治局通过《对段祺瑞“善后会议”之决议案》，口径完全改变，鉴于国民党到会以及人民没有自行召集会议与之对抗的可能，主张要求国民会议促成会派代表参加善后会议，反对国民党的消极抵制，促请其“主张参加，批评善后会议，催开国民会议”。1月22日通过的中共“四大”宣言，呼吁民众“要求在善后会议中有最大多数之国民代表”。[46]陈独秀指出，国民党领袖们既要站在人民方面从会议外消极地反对，更应该积极地参加会议，以打破军阀官僚包办，不准人民代表参加的禁令，乘机发表自己的政纲，揭破列强和军阀的黑幕。[47]“人民若不能努力争得多数真正人民代表有出席权，听段政府钦定一个限制真正人民代表的组织法，则将来的价值，也必然不比善后会议高得几何！”[48]
在此背景下，中共《向导》周报第106期发表署名“双林”的文章“胡适之与善后会议”，为新闻用“带着些滑稽”的口吻讥讽胡适加入善后会议是“尝试尝试”而替胡“抱不平”，“因为他本是个尝试主义者，他去尝试，实在无可讥笑。我们要看他试得怎样，再加批评。再进一步说，单是说他尝试失败，说他尝试的结果不好，也还不够，因为，一则我们明知他这次尝试必然失败，适之自己也未始不知道；二则尝试不过是适之的一种政治态度，还不是他政见的本身。所以我们不必斤斤于他尝试的怎样，成功还是失败；我们却要看他怎样尝试，提出怎样的政见”。
1925年2月1日，善后会议开幕，胡适被推举为七位议事细则起草员之一。2月中旬，法制院拟定《国民会议组织法大纲草案》共75条，经段祺瑞审阅后交善后会议审议。[49]会员对此陆续提出不少修正案，3月1日，胡适也提出32条的修正案。比较所有的修正案，《晨报》认为，其余各案“无一可使我们稍觉有批评价值”，唯胡适案为“表现其主张之作，自可引人注意。胡案内容较诸他案，约有七点特色：（一）国民会议以解决国家根本大计及建立国家根本大法为职权。（二）国民会议议决之法案，由会议自行宣布。（三）男女均有选举权及被选举权。（四）议员之分配以人口为比例。（五）直接选举。（六）以省为选举区。（七）各省省议会、省教育会、省商会、省农会、省工会，组织议员候选人推举委员会。”这“与其谓为政府案之修正案，毋宁谓另一提案，较为妥当”。除最后一条外，其余几条《晨报》均大体赞同。[50]
胡适的修正案在报刊上公开发表后，令一些本来对胡适参与善后会议有所不满的青年感到“卓识伟论，确是吾民的领袖”。[51]胡适的同人陈伯庄明知善后会议必无结果，还是希望胡适拿出超然正当的主张来与国人相见，并且认为这样才是“我们的唯一出路”。[52]有学者认为胡适的修正案与国民党在会外积极筹备之“国民会议促成会”有遥相呼应之意[53]，孙中山及国民党人不以胡适为敌，当与胡适对善后会议的“超然正当的主张”有关。
中共分析过胡适与善后会议组织者对于“成功”的分歧，善后会议所要的成功，是通过段祺瑞的国民会议组织法，以便将临时执政扶成正式执政。胡适所要的成功，则是要善后会议通过表现他本人政见的国民会议组织法。而要使目前的善后会议通过胡适的国民会议组织法，除非胡适的政见与安福系完全相同，或者善后会议变成人民的会议。
从五四运动前后，直到如今，胡适之总算还是社会上公认的民治主义者，要他立刻变成安福系，未免太快些。那么第一个办法是不能实现了。因胡适之向来是个民治主义者，或者他在人民的善后会议上公布的真正民治主义的政见来，可以通得过。照这样看来，为胡适之想，他若要尝试提出自己的政见，他还应当多试一试：不但自己应命加入尝试，而且应当赞成孙中山先生的主张，要求社会团体加入善后会议——这就是第二个办法。如果真办到了这一层，亦许胡适之的尝试会成功，也未可定呵。[54]
陈独秀等人虽然不赞成胡适办《善后日报》（实系传闻），主张速办《努力周报》，以表明政治态度[55]，又以联省自治为“非革命”，还是像一年多前一样，将胡适视为“真正了解近代资产阶级思想文化的人”，因此“在扫**封建宗法思想的革命战线上，实有联合之必要”。[56]
胡适加入善后会议，本来抱着尝试的态度，即察看善后会议是否有作为之可能性。如各方确有诚意解决纠纷，便在会中奋斗，否则即行辞职。不久河南战事发生，2月18日，胡适作《割据》一文，随即以此为底稿，于2月24日与马君武联名致函善后会议正副议长赵尔巽和汤漪，要求停止开会，声明若在战争情况下继续开会，只好不出席。[57]而执政府一味搪塞，毫无制止方法与诚意，因此他认为善后会议绝无成功希望，万难再行列席，遂于3月4日致函段祺瑞辞去会员。虽经汤漪等一再劝说，胡适坚持不肯。后汤仅请其勿将辞职书宣布，致受拆台之嫌。胡碍于情面，勉强同意，但自辞职书送出后，即绝不参与会事，“一日所提出之‘国民代表会议组织法修正案’，即为胡加入善后会议最初又为最后之主张也”。[58]不过，胡适仍然做足了法律程序，3月10日，他争取到足够的联署人数，致函议长，正式提出《国民代表会议组织法修正案》，要求交付印布和审查。[59]
对于胡适尝试的内容即其政见，中共表示相当失望，作为胡适在善后会议上的“唯一尝试”，所提出的国民会议组织法草案表面上“民治主义极了”，实际上“凡不能解说日用通行之文字不得有选举权及被选举权”一条，可剥夺80%中国公民的选举权；而推举候选人的公团中，没有律师、医生、学生、农民（农会是城乡绅士的团体，农民协会则为草案上所没有）的团体；教育会和工会的社会基础相差悬殊，推举额却均为10人，还要经过推举委员会的复选，结果工会提出的选举人必然难以当选，名为直接选举，实为间接选举，况且全国还没有一个“省工会”。所以胡适的尝试主义不彻底，民治主义也不大高明。至于胡适退出善后会议，理由只是河南打仗，与段祺瑞并不矛盾。可是，一旦善后会议顺利召开，段祺瑞堂而皇之地做了正位执政，接下来就会一个个结果自己的政敌，首当其冲的便是国民党，连胡适本人恐怕也在劫难逃。[60]