上述秘密协定签订后，阎锡山即责成其属下第六十一军军长梁培璜与第五专区专员续如楫，率领所部兵力和地方行政人员向汾东进攻。先以六十一军全部兵力在临汾日军的师团的协助下，迅速攻占汾东地区后，马上控制要点，构筑工事，后根据情况发展，再增派部队，将汾东地区的八路军、决死队坚决予以消灭。
就在六十一军出发之前几天，驻临汾的日军即派出一个大队并附有伪警备队的一个中队，向浮山、翼城、襄陵、临汾等交界之塔儿山地区进行扫**。并沿途散布谣言，说将派大军彻底清剿塔儿山云云，企图威胁抗日军队退出塔儿山，替六十一军进攻汾东扫清道路。
一月二十八日，梁培璜率曹国忠之四十八师，周建祉之六十九师，与续如楫所属之保安第五团、第九团以及县区村的行政干部，在第二战区总参赞杨澄源的指挥下，向汾东根据地大举进攻。为了顺利渡过汾河，特由日军指定之渡口史丁桥和日军据点襄陵桥通过。梁培璜唯恐部下与日军发生冲突，为对日军表示亲善，特规定士兵在过桥时，“必须退出枪膛内子弹，一律大背枪”。日军在渡口和桥头上，各派出一名大佐军官，带着全副武装的日本兵，对阎方人马表示欢迎。
日军官看见六十一军开过来，伸出大拇指称赞道：“晋绥军是日本皇军大大的好朋友！”
同时，日军还向六十一军官兵赠送了大米、清酒、香烟和罐头等慰问品。日方情报官员还向六十一军通报了关于汾东地区八路军、决死队最近活动的情报。
六十一军侵入汾东后，仅仅十多天工夫，便向八路军和决死队发起了四次大规模的进攻。太岳区党政军主要负责人薄一波为了贯彻党中央坚持团结抗战的方针，再三函告杨澄源、梁培璜，劝其深明大义，幡然悔悟，悬崖勒马，并陆续放回六十一军被俘官兵，向杨、梁当面劝告。但他们在阎锡山的催逼之下，始终执迷不悟，继续勾结日军，加紧修筑防共碉堡，四处扫**，大肆抢粮，以备固守。
一九四四年春，日本在太平洋战场逐渐失利，美英等国的反攻力量势不可挡，德国在苏联红军的打击下摇摇欲坠。这时日本为了挽回颓势，在中国战场上集中兵力，企图打通平汉、粤汉两条大动脉，以支援其太平洋战事，于是自三月开始，便对国民党正面战场发起了猛烈的进攻，以风卷残云之势，接连攻占了河南、湖南、广西、广东、福建的大部分和贵州的一部分地区，前锋迫近四川，震动重庆。接着，日军又在广西南宁和越南北部会师，并把从中国东北直至越南河内的大陆交通线打通。
这时，阎锡山又以日军取得这一连串赫赫战果，而确信皇军是不可战胜的了，因而他对自己长期以来采取的对日妥协，利用日军的强大战力，消灭八路军、决死队，扩大自己的政权，仍然认为是唯一正确的策略。
而日军在其打通大陆交通线以后，则更加需要更多兵力来维护这条交通命脉。同时也需要以更大的主力军投入到太平洋战场，以同美英决战。因此，其在山西境内的军队，又不断地被大本营陆续调走，因此对共产党领导的日益壮大的抗日武装，深感无力应付。
这时，日军第一军司令官吉本中将及其参谋长堀毛少将另调他职，军司令官一职由驻扎湖北荆门的日军第三十九师团中将师团长澄田睐四郎接任，以山冈道武为参谋长。
澄田与山冈的首要任务，就是：在山西境内贯彻“以华治华”、“以战养战”的政策，不遗余力地利用阎锡山的全部力量来扩大其“防共成果”，借以巩固后方基地的安全。因此，澄田和山冈下马伊始，便迫不及待地通过阎方的太原办事处，首先促请阎锡山从速派员接管一九四三年二月底日阎双方所签订的秘密协定中，日方指定“让渡”给阎方的县，并尽快进入上党地区，协助日军剿共，并声言：“日军已作好一切准备来欢迎阎军之到达。”
在此之前，阎锡山已经从日军手中接管了浮山、安泽两县的小部分政权（大部分地区由八路军太岳军区控制），对协定中规定的其他十一个县，尤其是上党地区的九个县，因一直未能和日军协商好具体的接管办法，因而迟迟未能派兵前往。万没想到竟然还会有天上掉馅饼这样的大好事，日军反而来求着他上门接管地盘，于是急忙召集军以上将领开会，当即决定派遣大部分兵力，在六十一军和日军的掩护下，经过汾东，开赴上党。这一任务，由第十九军军长史泽波负责执行，史领命后，即率大军向汾东地区开进。
同时，阎锡山以其总参赞兼汾东方面总负责杨澄源身体有病，改任赵承绶前往汾东接替杨澄源本兼各职。
史泽波率领大军浩浩****，意气风发到了汾东，本想遵照阎锡山的命令，立即向上党推进。不料这时才从先期到达汾东的六十一军军长梁培璜口中了解到，梁在汾东建立的政权，不过是日军用刺刀勉强维持的一小块地方，而汾东大部分地区，均已经落到了中共武装手中。史泽波只得协同梁培璜，在赵承绶统一指挥和日军密切配合下，不断地向八路军太岳军区的根据地进行扫**，大肆抢粮抓丁。
一九四五年上半年，中共各解放区响应毛泽东主席“扩大解放区”的号召，接连发动了规模宏大的春季攻势与夏季攻势，把日军压缩到了铁路交通沿线和较大城市。这样一来，敌占区急剧缩小，并完全处于抗日军民的包围之中。
紧接着，国民党正面战场也吹起了大反攻的号角，致使日军疲于奔命，异常恐慌。
与此同时，苏联红军在欧洲战场上取得了一系列重大胜利。四月三十日，苏军攻入柏林市中心，希特勒自杀。五月八日，德军无条件投降，横行一时的法西斯德国宣告灭亡，这就使日本法西斯完全陷入了孤立无援的境地。
战争形势变化之快，简直令人眼花缭乱，阎锡山更是大为惊叹，他断定日本必将重蹈希特勒的覆辙，为了自己的“存在”，必须要在日军失败之前，尽快地将日伪政权转让到自己手中，于是急急忙忙和一帮高干们商量出一个主意，即刻举办以培训“解救干部”为名的特种训练，抽调大批所谓的精英骨干，由梁化之、王靖国主持“精神培训”，由杨贞吉传授特务技术，然后将这些接受过“解救训练”的干部，派到日占区，和日军密切协同，建立“防共政权”。阎锡山还指定太原办事处的政治代表靳祥垣，分别发给日伪政权中省级以下各行政部门的负责人第二战区长官部委任状，承认其为第二战区的地下工作人员，保证将来不会给予任何惩处。
阎锡山还加委此时已担任日伪山西省保安队副总司令的赵瑞，为第二战区新编第一军军长，加委担任保安队师长的杨诚为第二战区新编第二军军长。七月十五日，阎锡山又委派其前任骑一军军长温怀光为新编第一、第二两军总指挥，并令他到祁县城和赵瑞会晤，传达阎锡山如下指示：
一、日本宣布投降时，一定要看好家门，以防被八路军夺去。
二、晋中各县，尤其是太原至孝义之交通大道，必须确保，以便会长返回太原时，得以安全。
此外，阎锡山还分别派人前往上党、雁北地区与当地伪军将领联系，对他们封官许愿，然后令他们安心继续配合日军剿共，确保防地不失，并提醒他们，勿以时局剧变（指日军投降）而各自逃生。
就在日本宣布投降前夕，由于国民党领导的正面战场和共产党领导的敌后战场同时向着日渐缩小的日占区节节逼进，日军损失越发惨重。如此一来，死心塌地为日军效劳的汉奸们非常害怕，尤其是敌伪政府中的高级官员更是惶惶不可终日，借故呈请辞职或席卷私逃者，时有所闻。这时日军清楚意识到他的现任厅长、道尹大多或窥测方向，或心怀二意，故通过梁延武向阎锡山发出请求：“请速推荐厅长级和道尹级的行政人员前来太原，听候任用。”
阎接到报告后，喜出望外，立即派出其得力干部李崇才、孟祥祉等一大批人员前往太原，担任日伪厅长、道尹等职。
接着，澄田又派伪前任建设厅长赵汝扬前往隰县，向阎锡山转达日方意见：“省长一职，也请由阎锡山阁下推荐。”
阎建议由梁上椿出任省长。梁却力辞不就，竭力推荐侄子梁延武出任。
就在阎方正在酝酿具体人选之际，日军因战局急转直下，靠着刺刀建立起来的侵略政权行将崩溃，也就把山西伪省长由谁担任一事，弃之一旁。
阎锡山在日军大举侵华并占领大片国土、无数同胞惨遭屠杀、各族人民正与日军浴血奋战的国难当头之际，身为第二战区司令长官的军政大员，虽然一方面领导战区军民在共产党八路军的支持下坚持抗战，打了大同、忻口、娘子关、太原等一系列气壮山河，虽败犹荣，可歌可泣的战役；但另一方面，为了保存实力，保住“山西王”的地位，他又暗中与日军朋比为奸、认敌为友，倒行逆施。尽管他最终并没有像汪精卫那样公开投敌，但阎与日军达成的“汾阳协定”本身和对部分协定的执行，已给国家、民族和人民的生命财产造成重大损失，完全丧失了国家尊严和民族气节。
阎锡山与日本的秘密协议，被中共在山西的负责人薄一波等获悉，感到事态严重。因为阎如果降日，不但是对全国抗战的一次重大心理打击，而且阎、日联起手来对付八路军，后果不堪设想。于是，决定通过舆论捅出阎、日秘密协议，同时，发动各界民众开展反投降运动，使阎一时不敢冒天下之大不韪。
一九四一年十一月三十日，八路军驻二战区办事处代表王世英在克难坡求见阎锡山，原来由阎的交际处约定谈话十五分钟，但在这次关键性的谈话过程中，王世英抓住阎投降的危机问题，对时局作了较详细的分析，谈话一直持续了三个多小时。
这次谈话中，王世英对三个重大问题的分析，使阎不能不对和日本人合作有所顾忌。
第一，日本只有南进，才能解决它的战略物资困难问题，不会北进。所以，日本早迟会与英美撕破脸，兵戎相见（因为阎锡山一直自认为美国肯定会为了对付苏联而支持日本，美日之间不可能开战，美国也就不会公开援助中国）。
第二，蒋介石在全国人民压力之下，不会降日（阎当时得到的情报是蒋要投降，蒋汪合流，组织亲日政府，故他要抢先一步投降，窃据华北。因为蒋一投降，他的政治资本就完了，人民就会起来打倒他）。
第三，阎又问王世英：“假如蒋介石投降，你们怎么办？”王世英回答：“我们的态度很明确，领导全国人民抗战到底，争取最后胜利，谁投降，我们就打谁！”
阎、王两人长时间的谈话，使在外面等候接见的人焦急不安，而侍卫人员则在窗外偷听。他们对这次谈话十分重视，主要是想了解八路军的态度，阎也想乘机摸摸中共的底。谈话次日，王世英即返回延安向党中央汇报。
其实，早在一九四一年六月，阎锡山与岩松义雄信使往来，暗中磋商，拟定条款，准备投降日本之际，中共中央就指示在阎锡山身边工作的杜任之地下特别小组：“阎锡山是个军人，他要公开投降日本，会比汪精卫等人有更大的危害，我们必须坚决拖住他，不许他公开投敌。这是一项政治任务，必须坚决完成。”
杜任之首先去找阎锡山的谋臣策士、山西省政府主席兼第二战区政治部主任赵戴文说：“抗战开始，你曾经公开表示不做亡国奴，坚决死守太原，与城共存亡。那时，你名声显赫。现在会长要回太原，也就是要去当汉奸。这样，他就会遗臭万年。你是不是同他一起回太原？”
赵戴文立即说：“我是有民族气节的人。我绝对不回太原当汉奸！要回，他回去，我的坟墓就在黄河边。”
杜任之说：“这当然很好！你决心不回太原，很有中华民族的气节；阎会长要回太原当了汉奸，就成了民族的罪人。你和他共事多年，就忍心看他陷入罪恶的深渊吗？你得想办法拉他一把，不要叫他走那条路。”
杜任之还对赵戴文说：“你还是把干部们的思想情况向阎会长说说，大家都不同意他这样干。别看有些军政人员现在跟他磕头盟誓。要真回太原，保管落个君不君，臣不臣，众叛亲离。”
杜任之等人还以各政治团体的名义，用不同笔迹写了多封警告信投入“密报箱”。这些警告信阎锡山都要“亲阅”，因此，这给他增加了很大压力。
阎日妥协、阎日勾结紧锣密鼓，消息逐渐透露后，社会纷传阎要回北平任“华北王”。阎锡山内部哗然，一些高级干部纷纷请赵戴文代表大家向阎询问究竟。
对其他人的意见，阎锡山未必真重视，但赵戴文在阎面前说话，分量就大不相同了。
阎锡山和赵戴文是山西旧政坛上齐名的人物。他们是五台同乡。一为河边村人，一为东冶镇人，相距仅十五里。但这不重要，重要的是他们一起在日本东京留学，阎在士官学校，赵在宏文学院，两人过从甚密，情同手足。之后阎引赵见过孙中山，并介绍他参加了同盟会。
赵戴文向阎锡山陈述了战区上下，反对与日本人妥协的普遍舆论。阎锡山听罢，怅然若失，长时不语。
赵戴文说：“今日死战失败，仍是成功。不成功退往河西，也是成功。要回太原当下流汉奸，你如何吃得下？”
阎锡山问：“次陇，你的意见如何？”
赵戴文说：“我自然也坚决反对。”
阎锡山负气道：“我如果真向日本人投降，你打算怎么办？”
赵戴文说：“我无颜见江东父老，一定跳黄河而死，决不跟你再回太原！”
而对阎锡山与日本人暗中勾结反对最坚决，表现最突出的人物，则是阎锡山精心培养的接班人梁化之。
梁化之是阎的姨表侄，山西定襄人，字敦厚，生于一九〇六年，七岁入小学，十六岁入阎锡山创办于老家河边村的川至中学；二十五岁毕业于山西大学文学系，为人儒雅温和，极为聪明。梁化之在大学毕业不久就开始担任阎锡山的机要秘书，其大学时代为师生所公认的“革命精神，领导才能”，得到了进一步的展现。个人的才具和工作精神，加上阎锡山的赏识与提携，梁化之很快就成为山西政坛举足轻重的人物。后来成了阎锡山最亲信的人物，掌管阎锡山经费开支和私人印章。绥靖公署的一切机要公文，都必须经梁化之盖印后，才能生效，梁成了阎锡山须臾不能离开的手。阎锡山左右见阎时，无论官职多高，谁都不敢携带武器，只有梁化之可以携带，随便进出阎锡山的卧室，任何人不敢阻拦。可见，梁化之在阎锡山眼里分量绝对不一般。阎锡山手下很多亲信，后起的像王靖国、孙楚、吴绍之、薄毓相、邱仰濬等虽也是登堂入室，可总比不了梁化之来得知近。
梁才华横溢，口笔两厉，极擅演讲鼓动，曾被赵戴文推举为“山西青年领袖”，一九三六年春，自强救国同志会组成，阎锡山自任会长，赵戴文为副会长，梁化之兼任总干事，负实际主持之责，统一领导各大小团体。短短的三四年时间里，梁化之由阎锡山幕后的一个机要秘书，一变而为山西政治舞台上新兴的活跃人物，可谓平步青云。春风得意的梁化之，大有“一人之下，万人之上”的气概。
太原日军把阎锡山与日本人举行“安平会议”一事印成传单，用飞机大肆散发于国统区，阎锡山向日军妥协投降的行径大白于天下，遭到人们包括其统治集团内人员强烈的谴责和反对。
梁化之虽不能阻止阎的行动，但作为阎集团核心圈子里的人物，他不仅反对与日勾结的活动，而且还向阎直陈反对意见。
实际上在“安平会议”前的三月十七日晚，梁化之就曾劝阎说：“大家只欲安富尊荣，不惜置会长于何地，甚有愿会长作汉奸者，此事宜早作筹划，免使临时无筹。”
阎锡山沉下脸说：“不要危言耸听，灭自己威风。日本人想耍我，我也想耍他们，就看谁的手段更高明。再者，此事我也常与靖国、承绶、绍之、延武及铁血团各军干商量，绝非我心血**，草率行事。”
梁化之道：“会长是足以改变历史的大人物，与虎谋皮，若有不幸，晚节蒙污，会长将何以面对世人？会长虽一时为部分高干所惑，然历史又将置会长于如何？若是真有那一天，化之又将何以自处？”
阎锡山大怒：“你这是甚话？我还没入绝境，你就想和我分道扬镳么？”
梁化之硬声道：“化之忠于会长，但更愿忠于中华民族，化之与子女，均为中华之国民。皮之不存，毛将焉附？为避免会长步入迷途，遭至不幸，化之誓愿以生命劝阻会长，并以报国家也！”
四月十一日，梁化之出任隰县区战地动员工作委员会主任，临行前又鼓足勇气，到阎的窑洞里，苦劝阎万勿与日本人合作。
这下真是捅了马蜂窝，话未说完，阎锡山竟从炕上跳了下来，脸红脖子粗地将梁化之痛骂一通。
司令长官大怒，威气斥责谓：“次陇是个书呆子，你简直比呆子还呆！你想想我的历史，阎锡山是怎样的人？我如投降，你们还能存在？你们如此真应该死！你们真是一伙甚事不懂的小孩子。我的骨气，你们岂能赶得上？你们岂配做死节之人？次陇也不配！”
梁化之在一九四二年四月十一日日记中写道：“被斥后心中虽忐忑不安，但对被斥之因认为应该，我不应当以轻蔑之词加诸长者，但对谓只有会长配我们决不能（配）死节一语，尚未承认也。”
内部舆论，特别是梁化之、赵戴文这样一些重要官员的坚决态度，使阎锡山不得不认真考虑，如果一意孤行，将使自己陷入众叛亲离的绝境。尤其是经赵戴文和梁化之沉痛谏劝，晓以大义，遂迫使阎锡山在朝会上坚定表态：“我与副会长义无反顾，坚决抗战到底！”
当然，国际国内局势的急剧变化，也是促使阎锡山改变策略的重要原因。
日本士官学校毕业的历史，使阎锡山有充分的理由自诩为日本通，他一贯认为，日本的综合国力实在太强大，中国若是与之硬拼，必败无疑。只有他那妥协求生存的策略才能求得民族的延续。他甚至自作主张地主观臆断“美国必将帮助日本，中国抗战终必失败”。他还洋洋洒洒地写了一篇文章，标题就是《东亚战争，美必助日，牺牲中国》。其论点是：“美国是一个唯利是图的国家，帮助中国抗战没有任何利益，为了自身的国家利益，必然要牺牲中国，帮助日本。美国最擅于干这种费力小而成功大，最便宜不过的事情。”
这篇谬文写成后，还油印出来，叫他的高中级干部们分组讨论，并指示干部们：“要引导大家讨论我提出的‘存在就是真理，需要就是合法’的口号。我最后结论是，求和则存，继续抗战，不亡于日，也必亡于共。”
哪知事情的发展，并不与他的思路配合，日本军国主义狂人们最终采取了“南进政策”，悍然发动了太平洋战争，这就一下子把阎锡山的计划打乱了。他原来的判断是“美必助日，牺牲中国，日必联美，以制苏联”，却没料到日本对美国突然不宣而战，使美国遭受了重大的损失。紧接着英国也在香港、新加坡、马来亚等地先后遭到了日本人的沉重打击。
阎锡山在部属们面前丢了个大脸，立即下令将他那篇刚刚印发下去的“宏文”收了回去，付之一炬，大家也不用讨论了。
阎锡山改变了对日军的态度后，马上又频频向蒋介石送上笑脸。
蒋介石早已通过戴笠侦知阎锡山背着中央，单独向日军求和的情况，生怕阎脱离了他的控制，严重地削弱国民党的力量。阎这一变脸，让蒋松了一口气，马上派阎的旧部、挚友，军令部部长徐永昌、贾景德，由重庆到克难坡与阎锡山会晤。在会商中，徐、贾二人秉承蒋介石的意旨，说明太平洋战争爆发后，美、英失利只不过是暂时的现象，最后战败的必定是日本。对日求和，只可从缓，更不可背着中央，单独进行。
阎锡山对“从缓”二字赞同，对“不可单独进行”，内心则不同意。因而一再声称：“二战区环境恶劣，补给困难。如政府不在经济上给予大力接济，则必然将在日军的经济封锁与军事进攻下遭到毁灭。”
阎此时提出“补给问题”，也是恰到好处。徐、贾发电向蒋介石请示，蒋慷慨答应，兵源、物资都可酌情予以补充，除清理欠饷外，还可以酌情增加军费。最后蒋介石还同意阎锡山为了“共同防共”，可以与日本人继续保持联系，并在必要时还可以退往黄河以西，加强陕北的防共力量。
阎一直存在的困难，反而因此得到了解决。日本人没能利用阎，反而成了阎对付蒋介石的一张好牌。
日本鬼子“鬼”，阎锡山比他们更“鬼”！