蒋介石夺去阎锡山晋南那么大一块地盘，他不敢吭一声，可八路军夺去他的上党地区，他却无论如何咽不下这口气。于是，他抓紧时间，调集兵力，委任赵承绶挂帅，率领三万大军火速前来进行复仇之战，以图夺回沦入敌手的上党地区。
赵承绶多了个心眼，寻思彭毓斌、史泽波带兵多年，并非等闲之辈，都被八路军像吃饺子似的一口一个给吃掉了，自己的部队，战斗力和人数并不在二人之上，千万不能步其后尘，也成了主动送到八路军嘴里的好吃物。
于是，他派出信使赶往太谷，请求驻扎在太谷县城的日军步兵独立第十四旅团旅团长元泉馨，在此次反攻作战行动中予以合作。
而且，军使还带来了赵承绶签署的“拆封令”，命令日军步兵第十四旅团，立即将在此之前已经遵照阎锡山的命令，就地封存的武器装备解除封存，重新将全旅团官兵武装起来。
元泉馨是个坚定的残留派，他看不起阎锡山的军队，巴心不得找个机会，在阎面前露上一手，以此为残留日军争取更多的利益。阅信后马上向第一军司令部请示，并积极请战。没想却遭到了严格遵照天皇投降敕谕，和南京冈村总司令命令行事的澄田司令官的拒绝，军司令部认为：投降后已经成为俘虏的日军，不便于以日军的身份参加这种战斗，故未批准元泉馨的请求。
元泉馨却坚持认为，现在赵承绶派信使前来请求他帮忙，八路军呢？三天两头派军使到太谷城里来要求他缴械投降，阎军的反攻战役一旦打响，他夹在阎军与八路军之间，断难自保，为了自己的部下能够在这场即将燃起的战火中生存下来，他或者向八路军投降，或者帮助赵承绶打八路军，二者必居其一，绝无第三种选择。
元泉馨的电报发出，澄田将军却装眼瞎耳聋，不给一字回复。
胆大包天的元泉馨决定抗命行事，他没有用欺骗的手段对付自己手下的将兵，公开将部队的处境，以及军司令部不同意他与阎军协同作战等情况，一五一十地全部告诉了他们。然后他说：“此次作战，无论胜败与否，责任完全由我个人承担。我不强求任何将兵与我共进退，参战或是袖手旁观，完全取决于你们的自愿……”
元泉馨的如此作为，反倒激起了全旅团将兵的一致支持，结果是，全体自愿参战——当然，想想那情景，同样的日本军人，拿着同样的武器，穿着同样的军装，一同坐船坐车到隔海隔山的中国北方来打仗，夜里一间屋子里睡觉，白天一口锅里抡马勺，现在让一部分将兵拿着武器和八路军血拼，一部分将兵抄着双手在旁边观战，也绝对没有这种可能。包括最坚决的归国派，到了这种时刻，也只能把思想上的分歧暂时抛到一边，先把眼前这一仗打完再说。
元泉馨下达的命令被将兵们严格执行，一座座仓库上的封条被撕掉，武器装备重新到了“徒手将兵”的手中。那一刻，每个人的眼里，都为能出乎意料地迅速实现日军的重建，而闪烁着喜悦的泪光，仿佛离开母亲的孩子，又重新归来似的用自己的脸颊紧贴着三八式步枪的枪托。
元泉馨的参谋三浦龙之介中佐拟订出全旅团的作战计划，立即奔赴阎军正吃紧的分水岭一带，与正在猛烈进攻的八路军展开激战。
驻扎在太谷附近的其他系统的日军部队，也争相打开武器封存仓库，自动武装起来，然后主动赶到分水岭战场，要求接受元泉馨的指挥，铁路护路队参谋长藤本中佐带来了四个大队，不下一千人，这让元泉馨信心大振。
小田切正男大尉率领日军驻太谷的特训队也一路风火地赶来参加了这次战斗，他率领手下六七百人的队伍，成了元泉馨的坚定的支持者。三个月后得以重新武装起来的特训队士兵，一边高唱着“将士的红领章，恰似万朵樱花开”的日本军歌，一边浩浩****地前进，士气极为旺盛。
小田切正男挥舞着军刀，不停地向自己的士兵们喊话鼓劲：“我们即使成为了战败国，但日本军人的士气不能衰退，要让支那人看看我们日本人的骨气！”
等元泉馨率领的日本人赶到分水岭战地时，守卫附近阵地上的阎军官兵已经被陈赓麾下的八路军歼灭，制高点尖山也被占领。尖山落入八路军之手，对于阎军以后的战斗进展十分不利，所以第七集团军总司令赵承绶亲自率领四十六师赶来，几次攻击，官兵死伤惨重，也未能得手。
元泉馨一到，听赵承绶介绍了敌我双方的战场态势，马上请战，要求改让日军去攻占制高点。
赵承绶求之不得，双手紧握着元泉馨的手，激动得连声说：“拜托了！拜托了！”
小田切正男率领的特训队，成了攻占尖山的敢死队，小田拔出军刀，喝令特训队员们上刺刀。赵承绶等阎军将领和元泉馨等日军将佐待在一起，用望远镜观察着战斗进展，在战地上当起了观众。
如此一来，尖山争夺战成为了小田的特训队与八路军表演的大舞台。担任敢死队员的特训队员们全都把这样的进攻当成了在阎军官兵面前的示范表演，出于民族自豪感，他们无论如何也得在中国人的眼皮底下把尖山高地拿下来，否则，他们丢的就是日本军人的脸！大和民族的脸！
经过猛烈的攻击和白刃战，小田以一百五十余名特训队员的生命为代价，终于将太阳旗插上了尖山阵地。可他们没能在上面待上多久，大约一个钟头后，猛烈的枪炮声再度响起，很快，山顶上迎风飘扬的太阳旗不见了，小田和残存的特训队员又被赶了下来。
元泉馨脸上挂不住了，一声令下，更多的日军士兵向着尖山拥去。“就这样，经过反复几次的争夺战和一次又一次的白刃战，才终于保住了阵地。以赵承绶为首的阎军将士，目睹了这场激烈的战斗，都非常惊讶。这样一来，连阎的部下对日军残留山西也很佩服地说：‘真是阎长官的英明决策，像这样的日军是完全靠得住的！’”（引自城野宏自述《保卫山西——日籍部队戡乱作战始末》。）
阎锡山此举哪里碍着英明什么事？他这么做，是迫于无奈。
日本投降后中国的形势，完全不出阎之所料，蒋、毛重庆谈判，耗时三月，签下的协议如同一张废纸，国共两党为争夺江山，转瞬之间便进入全面的对抗。阎锡山的确是估计到仅仅依靠他的部队的实力，抵抗铺天盖地而来的八路军毫无胜算，山西易手，笃定是早迟间的事情。蒋介石呢？就像一头张着血盆大口的狼蹲在自己后面，稍有一个不留神，便会让他撕咬下一块肉去。所以，他才那样热心，那样披肝沥胆、千万百计，甚至不惜一切代价地要求达成日军的残留与合作。共产党与他是势不两立，不共戴天的，对他而言，这是不可化解的首要矛盾，蒋介石和自己则是需要时可以成为朋友，一旦出现利害关系瞬间又能够变成敌人的特殊关系。而此刻驻扎在山西境内，有着超强战斗力的六万日本军队，却已经和他不存在任何矛盾，他只需把门一打开，这六万大军便会像潮水般涌出山西，返回日本。而只要他运筹得当，这支精锐之师，就可以变成自己的私家军队，替他的阎氏江山看家护院。阎锡山对中国国内的政治形势的分析完全符合当时的现实，这样的形势判断对于他这个在长达三十余年中，一直同共产党进行拼死斗争的人来说，是再合情合理不过了，此外，他也确实没有其他办法可想。因此，日军残留山西的政策也是必然得出的结论，而不是临时的头脑发热或是心血**而产生的什么阴谋。这也是唯一的，直接关系到阎锡山和他的整个统治集团生死存亡的根本大计。否则，我们就不可能理解阎锡山为何会在战败的日军面前忍气吞声，忍辱负重，委曲求全，甚至为取悦日军首脑，做出自贬人格、自降国格的事情来。
阎锡山与城野宏谈话后没隔几天，赵瑞突然出现在城野宏家中。
“嘿，你不是到忻州赴任去了吗？回来了，还是根本就没走啊？”城野宏好奇地问道。
赵瑞说：“你还问，这可都是你给我找来的事啊。”
“怎么是我找来的？”
“阎长官和你谈了一席话，就改变主意了。”
赵瑞告诉城野宏，初次见面，阎锡山对他印象极佳，认为这位毕业于日本帝大法学系的中年人，仪态儒雅，见解精湛，足堪大用。
赵瑞还一脸惊讶地说：“阎长官创立的‘兵农合一’与‘物产证卷’理论，是作为民族革命同志会的干部在宣誓前的训话内容，是绝对不能让重庆方面知道的。训话结束后，听训干部就结成了阎长官的心腹，而给予绝对信赖的同志关系，这是惯例。”
城野宏这才恍然大悟，知道此时的阎锡山，已经到了急于把日本人纳入他的核心政治组织的地步。
赵瑞接着说道：“阎长官知道我俩私交笃深，就打电话叫我回太原，当面交了一个特殊任务给我，要我和你们进行秘密商谈。当然，我是在舞台前面跳的，阎长官在我后面还安得有个人。由他掌控全局。就如同你后面肯定也还有人一样。”
“谁？”
“你认识，也是你谈判桌上的老对手、生活中的老朋友——梁延武。”
“哦，是他呀。阎锡山的意思是谈什么？怎么谈？”
“他强调要以和我私交甚好的你，和在日军司令部有很大影响力的少壮派军官岩田清一少佐，作为日本方面的正式代表。因为商谈的内容是极其秘密的，所以不能让翻译参加，由我和你，还有岩田直接谈。你可以兼翻译。希望一定这样做。”
城野宏知道老成持重得有些迂腐的澄田司令官对日军残留的事不太热衷，只想遵照天皇敕令，尽早让官兵和侨民回到日本，便找了赞同残留的军参谋长山冈道武商量。山冈一听果然大为支持，急不可耐地便让岩田和城野宏一起，与赵瑞展开了商谈。
谈判在东缉虎营原来的保安队司令部一间小屋子里进行，阴阳彻底颠倒，每天夜里十二点整开始，一直进行到第二天早晨四点钟才结束。阎锡山每天四点准时起床，四点半到办公室上班，听取各方面的报告并给予指示。赵瑞每天结束谈判后，就马上赶回晋府向阎锡山和梁延武报告始末，并接受有关第二天交涉的指示。城野宏与岩田也赶回日军司令部，向澄田司令官和山冈道武通报谈判情况，商量对策，统一意见。
赵瑞第一次谈判便提出，阎长官的意见最好是全部隶属第一军的驻晋日军五万九千官兵原封不动残留下来，成建制地编入阎军。但这一建议遭到岩田反对，岩田说，日本军队只属于天皇，只遵从天皇的命令行事，连军司令官也无权决定日军官兵的去留。
而真实的原因是，澄田、山冈、岩田等日本军国主义分子在实施残留运动这一计划时，也不能不有所顾忌，他们担心英美苏等国出面制止，尤其害怕近在咫尺的中共反对。
城野宏担心谈判破裂，提出可否考虑一些折中方案。
双方就此问题，每天熬更守夜地进行讨论，连梁延武也按捺不住，索性跳到前台，直接参与到和日本人的谈判中。
最终，澄田拒绝了阎锡山提出的“由阎部原封不动接受日本军队”的建议，而只同意“个别发动”，也就是将驻晋日军改头换面，以零敲碎卖的方式交由阎军接收——说得直白一点，就是阎锡山要批发，澄田只同意零售。
这样做，澄田认为即便不能做到人不知鬼不觉，但也至少能够大大减小动静。这是因为澄田做贼心虚，或者也可说是考虑事情比阎锡山更周密，根据《波茨坦公告》，投降日军应该全部解除武装，遣返回国。澄田担心这种公然违反《波茨坦公告》的事情一旦被美英等列强，还有中共方面获知，会给日军以及日侨带来难以预料的灾难。
双方经过五次秘密谈判，最后达成如下协议：
一、日军响应阎锡山的提议，将日本军人重编部队，并将这些部队置于阎锡山的指挥之下。其方法是以日本人自愿为原则，就地办理完日军方面的复员退伍手续，再行加入阎的队伍。
二、阎锡山对留用日本军人全部给予军官待遇，在日军现有级别基础上，提升三级。
三、给全体人员安排宿舍，并允许在营外居住。
四、合同期暂定为二年，由阎方负责归国事宜。
五、一俟对日交通恢复，将协助办理申请各日人家属来晋居住，或汇款返日接济家人生活等事宜。日人如愿与中国人结婚，甚表欢迎。
协议达成后，阎锡山指定由梁延武具体负责各项条款的落实。
阎锡山对这个协议感到非常满意。他立即要求澄田调动一部日军到太原驻扎，帮助他维持太原城内和郊区的治安。接着，又聘请澄田睐四郎为第二战区总顾问，山冈道武和一一四师团长三蒲三郎为副总顾问，联队长阪井大佐为太原市警备司令。
不过两天，在太原市的城门和街头又堂而皇之地出现了日本军队的布告：
布告
日本军于八月十七日停止了战斗行动，但凡向我挑战或有企图破坏铁路道路通讯线者，便作敌人断然膺惩。
特此布告，俾众周知
此布
山西日军司令官 澄田睐四郎
利用投降的侵略者对战胜国人民堂而皇之地执法，实乃旷古奇闻！
前些时候因战败而显得萎靡不振的日本侨民，又像被雨打过后的菜秧一样，挺起了腰杆，全副武装出现在太原街头的日本军人和警察，也重新在中国百姓面前耀武扬威。
残留运动也遭到了许多回家心切的日军将兵的抵制和反对。阎锡山为了笼络日本人和达到自己的目的，不断地在变换花样和做法。一九四五年十月，他召集他的亲信开会讨论办法。阎说：“对全部日本人留用问题，我一再和他们（指澄田、山冈）商议，他们始终不敢接受，只说可以由我们‘个别发动’。我想，从他们的中下级来个‘个别发动’，优予留用的办法，还是可以成功的。”又说：“我们为了存在，非有一个非常的办法不可。现在我们的兵力不够，应付不了共产党。为了充实兵力，只得招兵，但招兵又有困难，即使招来十万中国兵，也顶不住一万日本人。你们应该好好努力，分头动员，设法争取，越快越好。”
阎锡山要苏体仁和梁上椿，以“接收委员”的名义，专门向澄田、山冈联系，请他们从中协助，并予以指导；要梁延武、长官部高参张文昭专门作日军中下级军官的争取工作。阎锡山嘱咐他们“千万不可用强迫的办法，一定要用‘合谋’的形式，与人家好好商量，进行工作”。
为了做好“合谋”的工作，阎锡山还提出立即成立一个“合谋社”作为发动日本人的专门机构，并由赵承绶代表他督导这一工作。
随着残留工作的进展，阎锡山诚心诚意地要求与日本人联合一事被更多的日本人理解了。大矢正春的大和饭店重新开门营业，底楼的千鹤居寿司店装潢一新，橱窗的饰物也完全采用了中国人喜欢的风格，色彩也以中国人过日子喜欢的朱红和金黄二色为主，看上去既鲜艳，又华丽。重新开张这一天，大矢请来了锣鼓唢呐队，还不停地燃放鞭炮，在庭院上弄得惊天动地，几条街面上的大小中日老板，全被他请来赴宴，着实热闹了一把。
柳巷、迎泽大街、桥头街等日本人聚居区的商店也紧跟着纷纷重新开张。前些时候不知藏到了什么地方的砂糖、服装、肥皂，还有肉类和鱼类等市面上紧缺的商品，全都像变魔术般地涌现了出来。一些卖鸡素烧、寿司的店铺，人头攒动，生意十分红火。美国香烟迅速地涌进市场，骆驼牌和野球牌成为最受欢迎的牌子。电影院里，也开始上演久违了的日本电影。
在日本人开的咖啡店里，纯正的咖啡，涂有奶油的西式点心，也都出现在顾客的眼前。大家三个一群五个一簇地围坐在一起，抽着美国香烟，热闹地讨论着一个任何一位在山西的日本人也回避不了的重大问题——残留，还是归国？
经过城野宏和岩田等一段时间艰苦努力的工作，总算把一部分日军残留下来了，可军队的组建，却遇到了难题。在第一军司令部的高级干部中，除了山冈、岩田外，再也难以找到积极主张残留的人了。幸亏阎锡山态度积极，提供的条件也足以让人心动，并且他还对公开在军队中鼓动归国的头面人面毫不留情地予以压制。比如军司令部的副官长恩田忠录少将，公然反对残留，就被阎锡山列入战犯名单给关押起来。这一招很见效果，许多为自己和家人选择了归国之路的官佐，也再不敢拿着鸡蛋往石头上碰，很少有人再敢跳出来公开反对残留，在这样的特殊时刻，谁也不愿意步恩田将军的后尘，被当作战犯抓起来。当时的现象是，参与残留运动的高级将佐不太多，与城野宏、岩田同心协力推进残留工作的大都是一些大尉、中尉级的年轻官佐。
一九四六年一月，刚刚在上党战役中被八路军打得焦头烂额的阎锡山，用专机把山冈道武送到北平，争取华北方面军司令部的同意。方面军最初也认为天皇的敕谕是全军复员，作为军人，无论如何也不能违背天皇的意旨。他们甚至不能理解，为什么日本已经向全世界宣布战败投降，山西的日本军队还要残留下来？所以怎么也不同意。
最后，经山冈再三说明山西的特殊情况，以及强调山西的丰富资源对未来日本的复兴有多么重要后，方面军司令部这才改变了态度，表示：如果中国方面确有如此急切的要求，作为战败者的日方，也不便拒绝。
很快，太原市的日本侨民，接到日本第一军司令部的一份通知书：“山西派遣军经晋绥军之请求，特留一部分兵力于山西，协助晋绥军剿共。居留民原拟赴北京、天津者，可暂留太原。”
这样，日军在太原街头又猖獗起来。
“本军在北支那战场上，从来没有打过败仗。让我们投降，我们不服。”
“日本并未战败，再过十年，我们将卷土重来。”
种种谣言，开始在太原城中到处流传。
街头偶见日军，有的仍佩带军刀，昂首阔步，走来走去。其过去作为太原统治者的姿态，也不过如此。
日本人投降后很长时间的另一种怪现象，是太原的城门洞子里还站着荷枪实弹的日本兵。所有进出城门的中国人，都要向他们鞠躬致敬，即便是身负重物的担者或背者，也都必须如此，谁反抗就得挨枪托。这种现象，对于受尽日本人**烧杀的太原百姓来说，无不万分愤慨。
而且，澄田睐四郎、山冈道武、城野宏、河本大作等日本头面人物，继续住着豪华公馆，坐着插有将官旗的高级轿车在太原大街上招摇过市，心安理得地接受着中国士兵的举枪礼。日本侨民仍然高踞在战胜国的民众之上，趾高气扬地从业、生活、兴办学校、组建社团，俨然形成“一个日侨特区”。
不仅太原如此，在山西其他日军侵占区，也都一样。阎锡山派梁培璜、楚溪春到临汾和大同后，分别与这里的日军司令官三蒲三郎和阪本吉太郎商定：同蒲路与正太路之防务，主要仍由日军担任守备。这样一来，日军营房仍然飘扬着太阳旗，官兵仍然穿着原来的军服，荷枪实弹，往来巡逻于街头巷尾。
一九四五年九月上旬，日本投降书签字后不几天，冈村宁次就向中国陆军总司令何应钦提出：“中国的对日抗战是结束了，但今后难题尚多，主要就是剿共问题。这是中国的心腹之患，我既接受天皇的命令投降了中国，我就应该忠实地找机会为中国政府效劳。现在我们住在中国的部队还有一百几十万人，装备都是齐全的，建议暂不缴械，由本人率领，在贵司令的统一指挥下，帮助国军围剿共军，这是替中国着想。另一方面，我们的军队连同附属人员和散住各地的居留民，总共不下六七百万人，骤然被遣送回国，不要说安置职业成问题，就是吃饭也成大问题。与其回去无法生活，还不如就在中国住下来好些。因此，我考虑的结果，决定向中国政府提出建议，希望得到采纳。但事不宜迟，恐怕稍延时日，军心一经涣散，战斗力就不保险，要大大削弱了。”
不能说冈村的提议不合蒋介石的心意，冈村作为侵华日军的总头子，最终能在中国获“无罪释放”，全身而退，毫无疑问，蒋起了决定性的作用。而在蒋被共产党撵到台湾之后，再次依靠冈村为他组织日本将领——也就是著名的“白团”——来提升台湾国民党军的战斗力，就足以证实蒋不会对冈村的提议无动于衷。
可严重的问题是，国民党作为中华民国的执政党，他必须顾及到国家在世界上的形象，以及中华民族的道德底线，而且还有一个更为严重的问题是，蒋介石也深知这种做法是违犯波茨坦公告精神的，他不能不考虑到盟军，特别是美国人和苏联人对此事的立场。
而美国人和苏联人的态度已经明白无误，绝对不能容忍蒋介石统率的中国军队与刚刚被自己打败的日军结盟。
还有让蒋介石挠头的是，即便在国民党内部，中央高层，冈村的提议也同样遭到绝大多数大员们的反对，蒋不可能像待在太原的阎锡山那样一手遮天，我行我素。
于是，冈村的提议最终遭到了国民政府的拒绝。在东北、华中和华南等地，日本人“卷土重来和确保海外日本人势力”的战后筹谋，最终也都化为泡影。
唯独在山西，由于有阎锡山这么一个全中国独一无二的人物，以及因独一无二的阎而形成的独一无二的政治土壤与特殊条件，侵华日军“寄存武力于中国”的残留计划，却在日本投降之后，紧张地策划、组织和实施着……
九月里的一天，穿着一身雪白笔挺高级西装，风度翩翩的梁延武来工程司街三号的城野宏家，对他说，在前期代表日本方面与赵瑞的谈判中，城野宏为协定的签订，也就是阎日合作，起到了其他人不可替代的重要作用，阎长官对他尤为激赏，所以，特地让他前来，邀城野宏进入阎长官内部，作为核心人物参加工作。而对城野宏的重用，已经由阎出面，与澄田司令官和山冈参谋长取得了默契。
城野宏说：“既然如此，你们准备让我具体干什么呢？”
梁延武说：“根据当下的情况，阎长官已经决定成立一个专门负责发动留用日本人之责的机构，这个机构，叫做第二战区司令部合谋社……”
“合谋社……怎么起了这么个名字？”
“这是阎长官亲自起的，他的解释是，中日双方志同道合，所以才共谋其事。合谋社由我挂帅，具体工作由徐士珙负责。下设军事、经济、总务和文化四个组。军事组专负发动留用日本人之责；经济组专负收集处理日本人的遗留物资和保护日本商人照常营业之责；总务组专负收发文件、秘书工作及翻译工作以及其他一切事务之责；文化组专负对内对外的宣传解释和专替日本人组织娱乐之责。阎长官亲口指示我，要特别仰仗城野君，所以我今天才特地登门，请你出任军事组组长一职。”
城野宏一听便怦然心动，阎锡山成立这样一个机构，不正好和他鼓动的残留工作不谋而合么。
他说：“要我负责军事组可以，不过，你们得答应我一个条件。”
梁延武问：“请讲。”
“军事组的人事，由我定。”
“这算什么问题？根本就用不着向阎长官请示，我同意就行。至于地点，就在万字楼的日华俱乐部吧。太原城里，再难找到比万字楼更豪华气派的地方了。”
城野宏知道这位比自己小了两岁的中国人的能耐，抗战八年，他作为阎锡山的太原办事处主任，一直留在太原城里，成为阎与日本方面暗通款曲的桥梁。如今太原光复，他又出任了省政府秘书长。而梁之所以能够一帆风顺，平步青云，一则因为他是阎锡山的妹夫，再则，他也的确精明能干，一表人才，风流倜傥，才华横溢，算得上个出类拔萃之辈。尤其是他身居高位，却最喜欢与作家艺人为伍，不仅熬更守夜地为他管理下的西北电影公司编写电影剧本，还亲自担纲主演、导演。
梁延武是清华大学毕业生，后又留学日本。抗战军兴，他才回到国内。他和阎锡山部下的旧军阀官僚有着本质的不同，他回国时才二十几岁，还未来得及娶阎锡山的堂妹五姑娘为妻，便被阎任命为第二战区管文化宣传的最高长官——第二战区文化抗敌协会中将主任。
梁延武给城野宏提供的办公地点坐落在太原市内的文瀛湖边，即被誉为“巽水烟波”的太原古八景之一。这清清一泓湖水因毗邻贡院，而被命名为文瀛湖。文瀛湖边矗立着一座造型独特的民国建筑，从空中俯视，它的平面造型一如佛教符号“卐”，因而习惯上被称做“万字楼”。一九三〇年，阎锡山为了振兴三晋文风，决定在文瀛湖畔修建万字楼，并将其开辟为图书馆，因种种原因，直到七年之后，占地数千平方米的万字楼才告落成。
万字楼全木结构，斗拱屋顶，飞檐高翘，古色古香，是一组气象万千的楼阁建筑，上下两层，结合中国传统木结构手法与近代建筑技术，屋顶和立面造型采用了传统的仿清式歇山顶和柱廊，而结构形式和门窗则是实用大方的西洋式样。万字楼独特的平面布局，在中国传统建筑实例中极为罕见。
太原万字楼
不久，在太原海子边万字楼原“日华俱乐部”门口，挂出了一块“第二战区司令部合谋社”的大招牌，这地方在战时是日军将领和汪伪政权高级干部们的聚集享乐场所，在太原算得上是最豪华的建筑物之一。城野宏把狂热支持他残留主张的岩田清一、小田切正男和小林正孝等一批少壮派军官吸收到合谋社工作。城野宏负责总的宣传鼓动工作，岩田清一负责对军官和士兵的动员工作。
合谋社出版了《晋风》等杂志，刊印了城野宏撰写的《日本人的处境》等小册子。这个小册子从理论上论证了残留运动的重大意义，被分发到日军和日本侨民中。小田切正男和小林正孝等残留骨干分子，则被城野宏分派到日军各部队，或山西产业、华北交通等企业团体和侨民中去宣传残留运动。
城野宏成了日军中的第一写手，当然，他的工作并不仅仅是写写文章，卖卖嘴皮子，他属下的这一摊子人马，还建立了为残留将兵服务的各种机构和具体设施。比如创办了“日侨职业介绍所”，梁延武批了个条，城野宏拿着这张条，便能轻轻松松地解决各种困难。各地日本驻军里的残留派将兵，都可以选择离开原部队，到这里来报到。职介所不仅要将绝大多数将兵送往为创建日本新军而专门在城郊设立的特训基地，对官佐们的家属以及选择残留的日侨，也要帮助他们在山西安排职业。
有段时间，因为广大农村被八路军所控制，太原城粮食紧缺，给职介所规定的大米配给也出现了问题，许多日本人对此十分不满。城野宏就此事态度强烈地对分管此事的梁延武说：“你们嘴上说诚心希望日本人给予合作，可眼前出现的这种情况，不能不使我们对贵方的诚意，感到怀疑。”
梁延武作为阎锡山麾下主要的接收大员，要管的东西实在太多，千头万绪，哪儿管得了职介所的大米配给问题？他听了城野宏的抱怨，马上为自己的疏忽表示歉意，并立即派人把长官部后勤兵站供给部梁尔强主任叫来，当着城野宏的面，不断用文明棍点着地板呵斥道：“日本人远离自己的祖国来到山西，希望为阎长官做点事。你怎么忍心让他们饿肚子？如果你们这些中国人粮食不够，还可以投亲靠友，想想办法，可他们日本人要没粮食，一无亲戚，二无朋友，还不饿死吗？阎长官诚心诚意要和日本人合作，苦口婆心劝说他们残留山西。然而，你这个供给主任连他们家属的粮食也不能保证，这说明你完全把阎长官的精神，置之脑后……”
梁延武话还没说完，梁尔强脸都已经吓白了，连声说：“秘书长息怒，我马上亲自过问此事，立即解决，立即解决。”
山西的日本人受到阎锡山良好待遇的风声很快便传到了北平、石家庄等其他省份，从而打动了那些想残留中国的日本人的心扉。特别是在紧邻着的河北省，由于省主席孙连仲是中国对日战争中的一员著名战将，他对日本人毫不姑息，河北省的日本人开的商铺，住的房子，包括财产一律被没收，全部送往集中营等待遣返。集中营当然不是疗养院，尤其是设在河北永年的集中营，更让日本人闻之色变。因此为逃避目前生活的困苦，河北的日本人都把河北当成了地狱，把山西当作了天堂。再加之传闻总是会被人们夸大和渲染，好像在山西的日本人，现在已经恢复了过去作为征服者时的地位和生活。他们听到的简直是天国传来的消息，于是在开向天津塘沽码头的闷罐列车上，不断地有胆大者以各种方式逃跑，最终犹如涓涓细流，最终都汇聚到了上千里外的太原城。
这样的情况让阎锡山大受鼓舞，山西的残留日军达不到他需要的人数，把外省的吸引来，不也是一样的吗。
于是，某一天，梁延武来到万字楼，交给城野宏一项马上派人去北平和石家庄招兵买马的任务。
城野宏派五城邦一到石家庄，派汤泽正到北平。
五城邦一由梁延武的手下陪着，带着上千份第二战区中国人干部的证明书，进入石家庄，同被关押在集中营的日本人取得了联系，并说明山西的良好状况，向他们散发《日本人的处境》等小册子。结果，就这样把四百多名日本人，以第二战区留用人员的名义，用火车“遣送”到了太原。
以后藤武为核心的普济会的两百多名成员，也从北平成功来到了太原。该会以佛教为招牌，坚信通过祈祷而枪弹不入，或即使中弹也不会殉命。后藤武是陆军士官学校毕业，并早已退役的支那浪人。他们此行不仅仅是太原，而是想以中国的佛教圣地五台山为大本营，建立反共基地。谁知他们到了太原，才知道五台山眼下已经处在与聂荣臻的晋察冀八路军交战的前线，三天两头便会打上一仗，只好待在太原城里参加了太原的残留日军队伍。
徐士珙也亲往北平，拉来了以隅谷为首的一百八十名北平日侨到太原，并以此人马，建立了一支特别警备队。
城野宏每天坐镇万字楼，与几十名部属研究组编残留日军的策略，并付诸实施。因为他已经是名正言顺的第二战区司令长官部合谋社的军事组长，已经成为戴中国方面的官帽，拿山西方面给的薪资，替日本方面干事的特殊角色。
一九四五年十二月下旬的某一天，城野宏接到梁延武的电话，让他马上到合谋社去开紧急会议。他赶到时，看到赵承绶和岩田清一、今村方策已经到了。
赵承绶对三名日本人说：“这些日子，太原发生了一些令人不愉快的事情。今天请三位来，是想请你们出面主持，把留下来的日本部队，尽快地统一起来。”
赵承绶此刻说的“令人不愉快的事情”，三位日本人早已知道。
由于从河北与北平来了不少日本人，太原城里的日本人一时泥沙俱下，鱼龙混杂。只有不到两百名佛教徒的后藤武，竟然把自己当成个大将军。其他武装队伍的首领，也都大耍手腕，不择手段地抬高自己的地位和级别，这样做既能满足自己的虚荣心，也能靠扩大影响来网罗更多的成员。而且所有首领无不信誓旦旦地宣称，自己是最受阎长官信任的人。好像只要他们横空出世，八路军马上就会兵败山倒，望风披靡，消失得干干净净。
而且，这些名目繁多，麇聚在太原城里无所事事的日本人的小队伍，很快便建立起各自的人事关系和利益网络，由于投靠的对象不同，为队伍争到的军费也就有高有低，给养也不统一。甚至在作战时，各支队伍也完全按照各队的意图来行动，因为队伍的长官总是以自己倚靠的势力为依托，只顾自己队伍的利益。为了扩大势力范围和争权夺利，彼此间不时地发生流血冲突。比如说，有的人在后藤武的队伍里只是个少尉，而只要加入隅谷的特别警备队，就可升至中尉甚至大尉，他们理所当然就要跳槽。后藤武与隅谷之间，免不了就会因此而发生矛盾甚至摩擦。
而最让三名日本人在赵承绶等中国高官面前羞愧难言的是，由于环境使然，日本人也无师自通地学会虚报人数，并随之自然而然地吃起了空额。因为所有日本人队伍的级别和地位，均是依据人数多寡来确定的。虚报人数便成为所有首领的不二法门。因为虚报数字一但被阎锡山方面的管员认可，空额自然就产生了。多出来的饷银、粮食，你不想要都不行。何况，日本人饷银是阎军官兵的两倍，每日三餐供应的也都是精米白面，鸡鸭鱼肉。
这次紧急会议卓有成效，一月初，便以第一军的名义下达了组编特务团的命令。特务团下辖各个旅团各自组建的一个步兵团（联队），并在司令部组建一个由志愿残留士兵组成的直辖步兵团，以及炮兵、装甲、工兵等特种部队和后勤机构、医院、农场、学校等。
这道命令，是根据中国第二战区司令长官，给作为俘虏的日本第一军司令官，关于组建特务团的命令而作出的。由于有阎锡山的大力支持，组建特务团的各项工作很快便得到了落实。
“司令部下设九个步兵团，加上特种部队、后勤机构，共约一万五千人。大体上相当于整整一个师团。我们设想以此为基干，组成这样三种类型的部队，即全部队员是日本人的部队；只有指挥官和基干人员是日本人，而其他是中国人的部队；全部是中国人，但置于我们的编制内，并接受我们指挥的部队。这三种类型的部队，以总兵力六万人作为最初的目标。”（引自城野宏自述《山西独立战记——日俘残留山西始末》）
据合谋社军事组秘书平部朝淳于一九五三年在太原军事法庭上的证词：“第一军下达征集残留日本军人的任务，到一九四六年四月中旬，实际达到数为六千六百七十人。”
据由河本大作任委员长的山西日侨俱乐部一九四七年一月的统计数字，除军人外，当时“残留日侨数为七千二百七十九人”。
城野宏主持了在坝陵桥第一军司令部召开的特务团组建会议。
由于以前合谋社的宣传教育取到了相当大的成果，在各地的军队内部已经出现了愿意残留和狂热拥护残留的组织。这次会议不再像过去那样，讲究日军的阶级，而是为了使“各人的志愿”和军司令部的命令适当地结合起来，会议的参加者不再仅仅由官佐组成，也还有被士兵大会推选出来的士兵代表出席。
在这次会议上，已经被日本人视为“残留导师”的城野宏，作了“日本人的立场”的长篇发言，以他惯有的能使人热血沸腾的**和过人的思想表述能力，提出“为祖国复兴而献身”的口号，并阐述了为什么有必要残留山西、重建军队以及作为一个日本人，今后应该怎样工作的“残留学说”。
“我们的生命不属于我们，我们今天在山西所做的一切，都和祖国未来的命运息息相关。”城野宏的这句话极快地成为名言，在残留日军中流传开来。
城野宏还在补充发言时巧妙地提出：“特务团的组建，将起到完成军队复员工作一部分的后卫兵作用。也就是说，日本政府的命令是要全部复员，可是现实情况是，山西遍地是八路军，到处炸桥扒铁路，给遣返工作造成了障碍，也给日本军民造成了威胁。为了完成赤手空拳的主力部队和侨民的安全撤退，有必要设置一支后卫精兵，也就是我们的特务团。残留将兵无上荣光，因为，每一个人都要具备牺牲自己生命的思想准备。”
城野宏还说，组建特务团，以便使其他部队和侨民迅速而安全地撤退，是军机关的首要任务。因此，残留和归国并不是对立的，而是相辅相成的，缺一不可，符合日本人民的整体利益的。从而为成立特务团找到了一个极好的理由，自然也就顺理成章地争取到了绝大多数参会者的支持。
特务团立即从第一军司令部分离出来，设在工程司街的一栋公馆里，城野宏带着合谋社军事组的二十几个手下军官，也搬到这里，军事组从此多了一块“特务团政治部”的牌子。城野宏每天的主要工作，就是派出部员组成宣导小组，前往驻扎在山西各地的日军部队，就残留的目的、动机，展开教育。例如召开座谈会、讲演会、讨论会，推心置腹地和各部队将兵交换意见。目的只有一个，那就是使更多的将兵坚定不移地残留下来。
特务团的一万五千名日军不过是残留日军的核心，除此之外，还有以山西产业和铁路局为代表的技术人员、办事人员、侨民等不下两万人。在有三十万人口的太原城里，三万五千名心往一处想，劲往一处使的日本人，自然很快便会形成一股强大的势力。
第一一四师团师团长三浦三郎中将被推举为特务团司令官，该师团的参谋太田黑少佐被列为司令部参谋长，但三浦和太田都不愿离开榆次来太原，所以最终太原司令部主要是由岩田清一来处理实际事务。这也使军衔不高、资历不深，在一些日本官佐眼中还“乳臭未干”的岩田清一，却因为职务的便利而一度取得残留日军的实际指挥权。也使他在很短的时间内，成为了残留日军中颇具号召力的人物之一。
山西的残留运动搞得如火如荼，可是，由于美、苏两强的坚决反对，待在南京城里为侵华日军料理后事的冈村宁次，却不得不派特派员前往太原，制止残留工作。
一九四六年二月飞往太原调查残留真相的，是冈村身边的宫崎参谋率领的一个工作小组。宫崎来到太原之后，经过一系列的调查，才知道了在“山西所发生的这一骇人听闻的事件真相”。
他在报告中这样写到：
“应阎锡山的要求，已经组成了一支约有一万五千人参加的日本人武装部队‘特务团’，归国派和残留派之间引起了流血事件，军司令部情报参谋主任岩田清一少佐、独立步兵第十四旅团旅团长元泉馨少将，都是活跃在阎氏周围的主要人物。”
“三月十二日，访问了驻在太原南面榆次的第一百一十四师团师团长三浦三郎中将，向他传达了此次来太原的任务。十三日，又在军司令部会见了来到太原的元泉馨少将，对其不负责任的胡言乱语，激烈地进行了交锋。当天早晨，还把岩田参谋唤到宿舍，当面严加斥责，他只是低下头来，一语不发，未做任何辩解。”
残留分子后来说，阎锡山“没有扣留住宫崎参谋的飞机”实在是一大失策。
“在北平，将山西的实际情况，向根本博方面军司令官等做了汇报。对南京总军方面也发电报告，同时提请以方面军司令部名义，迅速给元泉馨少将和岩田少佐下达命令。”
宫崎晚年接受著名作家楳本舍三采访时还提到：“数年前，我看到了《山西独立战记——日俘残留山西始末》。该书著者城野宏氏，日本投降时，在太原任山西省政府顾问辅佐官，东京帝大毕业，预备役中尉。战后，取得山冈参谋长的同意，在阎锡山的庇护下，他和岩田参谋等共同策划在山西的强行残留工作，他应是首谋。但我在太原期间，没有任何一个人，向我谈及此事。看了这本战记，我才知道城野宏这个人。”