1956年11月，先行获释回国的战犯们决定成立“中国归还者联络会”（简称“中归联”），总部设在东京，并在各地方成立支部，成员包括全体从中国归来的前日本战犯。1957年2月24日，经选举产生了“中归联”临时常务理事会，国友俊太郎当选为理事长。9月22日，“中归联”由日本各地选出20名代表，在东京召开第一次全国大会。会议通过了《中国归还者联络会章程》，规定“本会以加深会员相互亲睦、相互帮助、为日中友好的发展与和平事业做贡献为目的”。[118]

1960年10月22日，“中归联”在东京召开第二次全国大会，来自各地支部的70余名代表出席，一致推选原第59师团长、陆军中将藤田茂为会长。大会修改了章程，将“中归联”的宗旨定为：“本会的目的是从人道主义出发，深刻反省参加第二次大战中对中国的侵略或对这种侵略的赞同，并将此反省在国民之中推广，为和平和日中友好做贡献。”

从此，“中归联”这个由原日本战犯组成的进步团体，成为推进日中友好、反对侵略战争、反对军国主义复活的一支特殊力量。

1965年9月7日，以藤田茂为团长的“中归联”第一次访华代表团应邀访问中国。9月29日，代表团参加了在北京人民大会堂举行的盛大国庆宴会。周恩来总理亲切接见，并与他们合影留念，鼓励他们为中日友好、反战和平事业做出更大的贡献。

此后，尽管受到中国“**”的波及和影响，“中归联”自1966年10月至1986年10月，分裂为“中归联”（正统）和“中归联”两个组织，但两派依然积极组织反战演讲，出版反战书籍，为中日友好事业做贡献。1986年10月19日—20日，“中归联”在静冈县热海市召开全国统一大会，终于结束了长达20年的分裂局面。

1988年10月22日，统一后的“中归联”成员集资500万日元，在原抚顺战犯管理所内，修建了“向抗日殉难烈士谢罪碑”。三米多高的汉白玉碑雄伟壮观，引人注目。碑文写道：

我们在长达十五年的日本军国主义侵略中国的战争中，犯下了烧杀抢的滔天罪行。战败后，被关押在抚顺和太原战犯管理所，在那里受到了中国共产党、政府和人民“恨罪不恨人”的人道主义待遇，开始恢复人的良心，没想到根据宽大政策，一名也没有处死，全部释放回国，正当抚顺战犯管理所恢复原貌之际，在这里建碑表示向抗日殉难烈士谢罪的诚意，刻下决不允许再发生侵略战争，为和平与日中友好奋斗的誓言。[119]

据报道，当年“中归联”成员曾有意将此碑命名为“认罪碑”，而中方则提议用“纪念碑”，但这些日本老兵坚决不答应，几经商议，最终定名为“谢罪碑”。一字之易，真实体现了中国人民的真诚和善意，令老兵们非常感动。[120]

应该说，“中归联”成员的认罪是真诚的，他们为中日友好所做的事情是发自内心的。如长期担任“中归联”会长的藤田茂，多年致力于“中归联”及中日友好事业，曾四次率团访华，受到周恩来总理的亲切接见。周总理高度赞扬他为中日友好所做的贡献，赠给他一套中山服。1980年4月11日，九十高龄的藤田茂溘然去世。临终前，特意嘱咐将周总理赠送的中山服穿在身上，以示九泉之下永远不忘中国人民的恩情。[121]

另外，该书所采访的十八名“中归联”成员中，汤浅谦曾任“中归联”常任委员长，筱塚良雄、铃木良雄、堀口久七、汤浅谦、渡部信一、鹿田正夫、金井贞直等曾任“中归联”常任委员，他们都为“中归联”的活动做出了贡献。他们表示：

我们活动的出发点是“认罪”即承认过去战争的错误。我们始终站在认罪的立场，不允许日本再次走向侵略战争之路，同时，努力为日中友好乃至世界和平做出微薄之力，携手共度我们不多的余生。[122]