除了以硬手段开道，阎锡山的软套套也紧紧跟上。
以上三招使出后，阎锡山见在他的高压之下改变态度，要求残留的日本人数还远未达到他的心理预期，于是便再加了一把猛火，派兵去日侨“集中地”，将青壮年统统抓起来，押往城内上官东巷的文庙，当真正的战俘对待。
这时候，为防止八路军前来攻城，阎锡山指定孙楚负责修建城防工事。孙楚日夜从事调查研究工作，调来大批工兵，把太原城防工事搞得来异常坚固。几千名被关在上官东巷文庙里的日本男性青壮年侨民也没能闲着，他们白天被押到东山上修碉堡，挖工事，人人成了个泥猴样。一去一回，看守还故意押着他们从日侨“集中地”经过，让亲人们跟着队伍哭喊着追。
最让他们心惊肉跳，苦不堪言的是来回的路上，无以计数的中国百姓对他们的袭击，由于过去日本人得势时，这些日侨早已习惯了高高在上，骑在中国百姓头上作威作福，如今日本人落了马，他们一下子成了马路上的烂泥，随便踩，那些结了仇受了气的中国人，自然要趁机报复。开始还比较“文”，离得远远地用石块砸，或是盯准仇家，冲上前去猛地兜头一闷棍，然后转身便跑。后来发现阎军看守通常是睁只眼闭只眼，并不真心护着日本人——不少阎军官兵的亲人也死在了日本人的手里，他们不敢动手，是碍于军纪管着，心底里对日本鬼子同样是恨之入骨——胆子就大了起来，下手也就既狠又重了，钉锤、菜刀、铁棍一齐上，有的挨过日本人欺侮的女人袖子里藏把剪刀，冲上去不管鼻子眼睛耳朵，不是戳便是剪，鬼哭狼嚎之声，震天动地。只要日本人走过，街面上便血流血滴，活像刚洒泼了红油彩。一路惊心地回到文庙里，待月上柳梢头，大家只能以地当床，以泪洗面。一日三餐吃的，是连猪狗也不肯张嘴的东西，就这样，每天还得收五角钱的伙食费。而且不允许亲人探视，亲人送好吃物来，只能由看守转交。其实这些美味全成了看守们的享受，日本人送来的吃物不单好吃，还做得好看，样样精美别致，看守们舍不得吃，就各自带回去和家人一起分享。
单是太原城里，就有不下三万名日本侨民，很多家庭都有人被关在文庙里活受罪。日侨们整天哭哭泣泣，人心惶惶。
等到火候差不多了，当局告知被关在文庙里的青壮年日侨，只要同意参加残留日军，马上就可以把他们放出去。还告诉他们，阎长官的士兵每个月的伙食费标准为两元五角，残留日军士兵的伙食标准定的是七块五角，比中国士兵高两倍。军饷呢？阎长官的部队里，官兵之间的军饷差别极大，士兵从副兵到上士之间分为五个等级，最低级的副兵月饷为六元三角，最高的上士月饷为十五元，差距两倍多。军官之间分为十个级别，最低级的准尉（排长）月薪二十四元，最高级的中将（当时除阎锡山外晋绥军中还没有上将）月薪五百元。日本侨民只要穿上晋绥军的军装，拿上枪杆子，最低军饷不下二十四元，相当于一去就享受排长待遇。
如此条件，实在诱人，好多日本侨民在柳巷大街、东西官道开一家只有四五张桌子的寿司馆，鸡素烧馆和马肉馆的小老板，辛苦一月，还挣不到二十元钱哩。
“轰”地一下，文庙里的日侨顿时散去了一半。
还有一半却依旧是归心似箭，宁愿坐牢。不愿替阎锡山背枪打仗的，大都是年纪较大者，他们中的不少人曾经当过兵，就地退役后，很多都进了铁路和矿山、兵工系统工作，然后就娶了日本侨民朝鲜侨民或是中国女人为妻，留在太原安家立业。他们太知道战争是怎么回事，所以把妻子儿女的命看得比自己的命还重要，更比阎锡山开出的金钱还金贵，所以无论当局硬的软的轮番上，他们仍然咬紧钢牙不松口，选择了待在文庙里静观时变。
这样的效果，显然离阎锡山所希望的还差得很远，不过，他有的是办法，如果以为阎锡山会就此止步，有多少算多少，凑合算了，那就真是小看阎某人了。
阎锡山毕竟少时在钱庄当过几年学徒，脑瓜子灵光，一番异想天开后，果真又让他想出一个“尊军献肉”的主意，来提升残留日军的生活，吸引更多的日本人参加进来。
这个“尊军献肉”的政策，首先在太原全城开始试行，其具体做法是：凡买肉的市民，买一斤肉必须付两斤的肉价，买十斤则多付十斤肉的肉价，以此类推——反正吃得起肉的人，也不在乎多付一倍的价钱。所有多出的钱，由太原市商会买成肉，送往部队后勤处劳军。而后勤处拿到这些肉，则先保证日本人的需要，多出部分，再拨给晋绥军。试行了两个月，效果奇好，既不花一分钱，又能充分保证日本人所需的肉食品，还附带改善了晋绥军的生活，于是便在其他地区强行推广开了。
一九四九年三月二十八日，就在阎锡山的老乡徐向前指挥解放军攻下太原东山要塞的当晚，阎被迫向东京的盟军总司令麦克阿瑟发电求援，大言不惭地说：“如能支持十万日军俘虏，拨飞机两百架，归阎某指挥，定可横行华北，扑灭共产军！”
让阎锡山深为可惜的，虽然软硬两手一齐上，他麾下也最终未能聚集起十万日本人。山西境内的十二万日本人，到头来只有一万五千官兵和将近两万名侨民，主动或被迫同意残留下来，编入了他的部队。
事情做到这一步，阎锡山无计可施，只好下令让日本侨民仍旧回到太原城里，该干啥干啥。
而且，在同意残留的日本人中，侨民占了一大半，而在侨民中，占大头的又是河本大作管理的各大企业，单单是他直接领导的山西产业株式会社，就有三百余名日籍职员同意跟随他残留。
河本大作于一九二八年六月四日上旬导演、制造了震惊中外的“皇姑屯事件”，炸死妨碍日军在东北进行侵略行动的北洋政府大元帅张作霖。暗杀张作霖事件不仅引起世界舆论大哗和英美两国政府的干涉，还打乱了田中内阁的战略部署，造成了适得其反的后果。
田中义一首相得知河本大作炸死张作霖时，没有露出胜利的笑容，反而是一声长叹：“孺子不知父母心，一切都完了！”
果然，一九二八年十二月二十九日，张作霖之子张学良发表通电，宣布“遵守三民主义，服从国民政府，改旗易帜”。南京国民政府任命张学良为“东北边防司令长官”，实现了国民政府对东北的统一领导。
日本一些军政要员，也认为河本大作等人的做法过于露骨和拙劣。一九二九年五月，一意孤行的河本大作被田中义一内阁和日军大本营免去关东军高级参谋职务，内定永久不能晋升军级。
一九三二年十月，在“皇姑屯事件”完全平息以后，河本大作被任命为满洲铁路理事。四年后出任满洲炭矿理事长。他疯狂推行“人肉开采”政策，以中国人民的生命来换取日本国所急需的矿产资源，在东北大地上制造了许许多多掩埋中国劳工白骨的“万人坑”。
河本大作于一九四二年九月应士官学校同班同学、北支那派遣军第一军司令官岩松义雄中将之邀，从东北来到太原，接替日本大仓财阀代表太田文雄，担任山西产业株式会社社长。山西产业株式会社的前身是军管工厂，日军占领山西后，把阎锡山留下的重要工厂和矿山接收过来，实行军管。河本大作上任以后，多次在各厂长参加的会议上强调：“本会不是赢利性企业，而是为第一军司令部提供更多的经费。要进一步加强生产，以贡献于大东亚战争。”骨子里，他所主管的山西产业株式会社，就是第一军的大钱柜子。
河本亲自组织“山西急进建设团”，强行征募和驱使大量青年劳工为日本国掠夺山西煤铁等物产卖命。他还伙同日军第一军经理部、伪山西省政府顾问室，征集十九至二十一岁的中国壮丁，押送到山西产业社所辖四十六个工厂和矿山，强迫进行高强度劳役，为日军实行“现地自活体制”卖命。另一方面，通过日本在河北、河南等地的驻屯军，以招收民工为名，诱骗贫苦农民，到山西各地的煤矿铁矿，强制进行长期的超负荷的禁闭劳动。在武力的支持下，日军对山西的丰富矿产资源进行了疯狂的掠夺。掠夺的对象包括煤炭、铁、锰、铅锌、硫黄、石膏、池盐、芒硝、木材等等。对于掠夺山西资源，河本大作在给上级的报告中，提出了一个长远的设想：“对山西的政策，应采取将山西的煤运往日本，而不是采取在山西建立重工业的方针。为此，必须以山西丰富的石灰石、无烟煤与黄河的水利发电为必要材料，建立一个瓦斯工厂。其次大力开采太原到介休间的石膏矿，以制造水泥、硫铵、急性硫酸和建筑材料。”
日本侵略者对所有劳工进行残酷的盘剥和压榨，导致劳工大量死亡。仅在大同矿区，就制造了十四个“万人坑”，害死矿工六万多名。
另外，在日本战败前夕，河本大作还积极参与日军山西派遣军的情报、策反活动，与第一军司令官澄田睐四郎中将密谋招募中国士兵，以弥补日军兵源的严重不足。
阎锡山回到太原后，当务之急自然是把河本这个大钱柜子紧紧地抓在自己手里。但是，他和河本谈话后，提出关于残留河本手下的山西产业株式会社的众多技术人员和重要的职员后，河本的态度并不积极，因为他当时认为，仅仅是在山西残留技术人员和职员，并不能发展成为重大的政治势力，并没有什么意义。
不过，促使他改变认识的是城野宏，当他俩进行了一番深入的交谈后，城野宏提出的“残留日军”的设想强烈地打动了他，当即举双手赞成，并从此后成为城野宏最坚定的拥疋之一。
河本高兴地对比自己年轻刚好一倍，职务也比自己低得多的城野宏说：“城野君，要是能像你说的那样，首先把军队残留下来，我们当然也非常欢迎！我今年已经六十二岁了，在中国生活的时间远远超过了在日本。我太了解中国军队的战斗力，他们名义上是国家军队，实际上基本都是只遵循个人意志行事的军阀武装，和团结得犹如一块精钢似的日本人比起来，他们永远都是一盘散沙。我手中只需要一个大队，就可以在中国的任何地方横冲直闯，所向无敌。我有充分的理由坚信，只要能够在山西残留下一个师团，我们不但能够继续在山西开采资源，还足以控制整个华北。”
城野宏从晋府东花园搬出后，就住进了高等日本人的居住区工程司街，和河本大作成了邻居。搬过来没多久，城野绫子就告诉他，这儿的日本人都知道，已经过了花甲之年的河本宝刀不老，家里的女仆是个阵亡遗属，丈夫是关东军情报机关的一名中尉，一次执行任务时，被张学良的东北军秘密处决了，河本就把这个还不到二十岁的女仆当作了自己的情人使用，而且出资抚养关东军情报官留下的独生女儿，等到这女儿长到十三四岁时，也成了河本的情人。这几年，一直是亲亲母女俩共伺一“夫”。
城野宏听说这事儿，去河本家时便留意了一下。果然，那一对母女都长得十分漂亮，女儿十六七岁，唇红齿白，犹如一枝带露珠儿的水仙，母亲三十出头，白净秀丽，温婉雅致，离那老字，似还差着十万八千里。而且母女两人，均风情万种，各有韵味。
受到城野宏鼓动而下定残留决心的河本大作，竭力劝说山西产业株式会社三百多名日本技术人员及其家属，继续与阎锡山合作，为复兴祖国而残留山西。他竭力鼓吹什么“日本的复兴之烽火，应从山西之一角燃烧起来”。
河本大作
阎锡山将山西产业株式会社改为西北实业公司，仍委派河本大作担任“总顾问”参与管理。虽说是总顾问，实际上他仍是主宰者，阎锡山派来的负责人，全都在他面前毕恭毕敬，对河本来说，唯一的变化就是把原来社长室的牌子，改成了“总顾问室”而已。除此之外，河本还策动更多分散在山西各地的日本工程技术人员残留下来，为阎锡山政权管理工厂、矿山，维修和保证军事设施和兵工厂的生产。
不久，阎锡山又派给河本一项重任，让他和在阎麾下专门抓反共工作的梁化之合作，建立了资源调查社。该社在名义上是调查资源，而实际上是吸收原日本第一军司令部的对共情报组织，并继续其技能和成果的机构。
也就在这个时候，随着对日军战俘和日本侨民的遣返工作开始，山西残留日军的组编工作，也紧锣密鼓地拉开了序幕。