“菁山草庐”幽雅宁静，却仍然没有电话、电灯和自来水，更谈不上业余生活。一些年纪较轻的部属，背地里免不了时有烦言。阎锡山倒处处显得很超脱，还和愁眉苦脸的侍从们说：“喝泉水好啊，没有漂白粉的味道，有助于你们延年益寿，得道成仙。”
带着行政院长兼国防部长的头衔，阎锡山抵达台湾后，立即住进了台北宾馆。此时与他重逢于乱世的家人，只剩下孤零零一个元配夫人徐竹青，母亲陈秀卿来台湾后不久就病逝，儿孙媳妇则全去了美国。
当天下午，带蓝呢博士帽，穿着灰色咔叽中山服，有着一张圆圆的脸，戴着一副托里克眼镜，蓄着浓浓八字胡须，猛然看去有点像德国总统兴登堡的阎锡山，即在台北宾馆大厅召开新闻发布会，正式宣布“国民政府”自即日起迁移台北办公。也就是从一刻起，国民党在大陆的统治彻底宣告结束。
在那段日子里，几乎每天都有相熟的各地军头来找阎锡山告陈诚的状，说他用对付共军的手段来排除异己。
陈诚与孙立人使出的一招“入台管制”，石破天惊：每一艘运兵船一靠码头，官兵列队登岸后武器放一边，重新配发，人走一边，重新整编。多年来拥兵自重而威风八面的各路地方军阀，顿时变成两手空空的孤家寡人。陈诚敢放开胆子这么干，自然是得到了蒋介石的支持。
这一招可谓是重症下猛药，一定程度上解决了国军中各拥山头，派系林立的积年顽症。如果说蒋介石作为国家名义上的最高统帅，从来就没有真正统一过这个国家庞大纷杂的军队，那么，大败之后逃到台湾，陈诚和孙立人却轻易地帮助他第一次实现了对来自全国军队的绝对控制。
阎锡山注意到，那些在大陆各个战场上被解放军打败后陆续逃到台湾来的杂牌军官兵，全都落得个同样的命运。带了一辈子兵的阎锡山深知，枪杆子一丢，这些作威作福了大半辈子的地方军头，从此一切全都得看蒋介石的脸色行事了。
从民元起事到民三十八年国府撤到台湾，阎锡山在山西干了整整38年，做到了和中华民国同“始终”，毫无疑问是民国史上统治时间最长的地方军阀。
早在国民党迁台前夕，蒋介石就已卸去总统一职，由副总统李宗仁代之，而这时，李宗仁远在美国，按照国民党的宪法，总统、副总统缺位时，应由行政院长代行其职权。这就是说，阎锡山在台湾就应该是最高权威。所以，入驻台北宾馆的阎锡山还颇有几分国家元首的模样和气派，频繁召开新闻发布会，竭力鼓吹国民党卧薪尝胆、卷土重来，反复宣传到台后的施政方针，并多次发表演讲，批评国民党内的不团结，总结在大陆失败的经验和教训，要和大家一起立足台湾好好干一番事业。
但蒋介石早就把所谓的法统丢在脑后，以国民党总裁的身份，对行政院的工作事无巨细处处过问。特别是人事上的安排，更是牢牢抓住不放。
1950年元旦刚过，蒋介石便把阎锡山叫到办公室，说是与他商量行政院改组人选，其实就是通知他应该换哪些人。阎锡山从蒋介石给他的名单一眼看出，不单谷正纲、顾祝同、俞鸿钧等蒋的嫡系接替了他安排的各部门首脑，连阎锡山本人兼任的“国防部长”一职，也不得不交给了与解放军作战“屡战屡败”的徐永昌。
行政院改组，引起了国民党各方人士的不满。一天，阎锡山刚刚吃过晚饭，正在院子里散步，一帮四川籍的立法委员闯进了阎锡山的官邸，他们气愤地质问阎锡山：“这次政府改组，为什么四川这么一个大省，8年抗战作出了那么大的贡献，竟然无一人入阁？”
这一问，倒把阎锡山问住了。因为他名为行政院长，但改组人事却完全由国民党总裁蒋介石做主。这次改组，他的亲信也大都被拿下。但此种内情，他又怎么敢与人明说呢？阎锡山一肚子苦水无处倒，自己没有落到好，反而当了老蒋的替罪羊，处处遭人埋怨。
蒋介石的用人政策，历来是以自我为中心。顺我者昌，逆我者亡。历史上，被称为“山西土皇帝”的阎锡山曾几次倒蒋，甚至在中原大战中与蒋介石直接对垒。蒋介石对他一直心存芥蒂，但考虑到国民党刚到台湾，百废待兴，一切以稳定为好，所以对阎锡山还是比较客气。
虽然阎锡山有自己的个性，但他也知道自己这个行政院长看似权力很大，其实是仰老蒋的鼻息行事，老蒋说什么，他就得干什么。这让他十分憋屈，但也无可奈何。
尽管如此，阎锡山还是到处发表讲话，痛斥国民党的腐败无能，同时对国民党内部派系之间的矛盾十分不满，对国民党的一败再败的战略指导思想，多有责备之意。阎锡山的讲话处处刺到蒋介石的痛处。这些话如果让老蒋本人来讲，一点事也没有，而阎锡山却毫不顾蒋的面子，句句话讲得钉心透骨，这未免太使蒋介石感到难堪。于是，换掉阎锡山的想法在蒋介石的脑子里形成了。仅仅3个月后，蒋介石与他谈了一次话，阎锡山就不得不乖乖加主动地把行政院长这顶官帽交给资历比他浅得多，年龄也比他小得多的陈诚了。
1950年3月1日，蒋介石在台北举行“复行视事”典礼。仪式完毕，阎锡山便向蒋介石提出辞去“行政院长”的请求。阎锡山能主动配合，蒋介石当然很高兴，但嘴上仍假意挽留一番。第二天，蒋介石亲自来到行政院阎锡山办公室，与阎锡山长谈，进行安抚。3月6日，国民党中央常委召开由蒋介石主持的临时会议，批准了阎锡山的请辞报告，正式决定由陈诚继任“行政院长”。
离职后，行政院的部属们为阎锡山举行了一个小型茶话会。有人将老子《道德经》里的两句话“绝圣弃知，大盗乃止”送给他。
阎锡山意味深长地说：“无珠宝而不争珠宝，不是不争，是无所争；有珠宝而不争，是自己心上无珠宝，才足为奇。人不污辱你，你不和人争，不是不争，是无争；人污辱你，你不和人争，才是不争。”
这一番话，表明了一贯专横跋扈、争权夺利的阎锡山在接连遭受重创，已近古稀时，幡然悔悟，与世无争的某种心理状态。
这一年，阎锡山已经67岁了，蒋介石给了他总统府资政兼国民党中央评议委员的闲差，每月拨付经费5万元。卸下行政院长要职的阎锡山，被安排到台北农安街（今丽水街）一处小院居住。到这里一看，院墙低矮，房屋仄逼，一派破败之气。与他同来的40名山西籍侍从，以及秘书、司机、伙夫都为老长官愤愤不平，对蒋介石出言不逊。
“唉！”目睹此情此景，阎锡山不禁发出一声长叹：“东山的土地爷，到西山就不灵了。”
阎锡山从太原逃到上海时，曾对他全家以后的去向做过安排：把母亲和夫人，送到台湾，把儿子志敏和志信，还有寡妇二儿媳赵秀金送到美国，又派五妹夫梁延武和内侄徐士珙到日本。可谓处心积虑，狡兔三窟。阎锡山搬到农安街后，也曾打算去美国或日本，蒋介石自然不放心这个多年的政敌自由地出入于美、日两国，更怕成为冯玉祥、李宗仁第二，以种种动人借口挽留。阎锡山心知肚明，却无可奈何，只好留了下来。
他在农安街深居简出，整日把自己关在家中著书立说。半年后，他写书居然写出了乐趣，嫌台北太嘈杂喧嚣，于是带着徐竹青、机要秘书原馥庭，以及40名忠心耿耿的侍从前往阳明山，找一个清静的地方过隐居生活。当局态度还算积极，把当年日本人准备建，而没来得及建成的菁山农场里的几栋屋子提供给了他。
阎锡山一行坐着大车小车，顺着公路行了一段，还没到菁山农场就没车路了，大家还得安步当车。爬山越岭到了农场一看，孤零零的几栋日式平房，静卧在幽深群峰之中，房屋全是木板墙、石棉瓦，没有电话，没有电灯，也没有自来水。四处杂草没膝，野花斑斓，鸟啼声脆，受到不速之客惊扰的野兔冷不丁蹦出来，惶惶向草丛深处逃去……
堂堂“阎院长”，怎么能待在这样的地方？部属们怒不可遏，纷纷要求老长官立即返回台北。没想到，阎锡山面无表情地指着一间屋子说：“日本人能住，中国人为啥就住不得？我就住这里了。”
阎锡山都能住，秘书、侍从谁还敢提出不能住的理由？
谁想第二天半夜里，一场暴风雨将房顶上的石棉瓦刮跑了不少。侍从们争相抱着军毯拥来，高举双手，将军毯罩在阎锡山和徐竹青头上，使这对老夫老妻免遭狂风暴雨的袭击。
风歇雨住，好不容易熬到天亮，部属们都以为受了一夜凄风苦雨折磨的阎锡山这下总该搬回台北了吧，没想，他却和气地叫大家把房顶盖一盖，还在这儿住下去。部属们都能体谅老长官的处境和心情，而且一个个对老长官死心塌地，也只好咬紧牙关，与他共受磨难。
侍从们砍来竹子架顶，在上面押上厚厚的稻草。可是没过几天，又一场暴风雨袭来，稻草被吹得满天飞舞，房顶又露出了大窟窿。折腾了好几次，阎锡山才吩咐侍从雇来工匠，在菁山脚下他看中的一个地方建起几排草顶板墙的屋子，然后搬下来居住。
草顶板墙抵挡不住南海的炎热和台风，阎锡山便想起了山西老家的窑洞。窑洞的特点是冬暖夏凉，而且又不怕台风侵袭，何不在这里也建它几孔窑洞呢？他向当地的一些上了年纪的山民询问，台湾为什么没有窑洞？山民回答说，台湾土地潮湿，不适合挖洞。洞子里空气也不流通，再说台湾经常闹地震，洞子容易塌。阎锡山想，窑洞的这三个缺点，他都有办法解决：洞里糊上水泥，就可以防止潮湿；前后各开一扇窗，就可以解决空气流通问题；至于地震，窑洞与楼房一样，楼房设计能防震，窑洞设计得好，也一样能防震。于是，他亲自设计监造了3幢仿山西窑洞风格的砖石建筑，这也恐怕算是他和山西的情感联系吧。
由于阳明山中雨太多，阎锡山不能常常外出散步，没过多久，又在他房前增建了一条长长的风雨廊。
阎锡山叫侍从做了一块匾，他亲自题了“菁山草庐”4个字，挂在门楣上。
“菁山草庐”幽雅宁静，却仍然没有电话、电灯和自来水，更谈不上业余生活。一些年纪较轻的部属，背地里免不了时有烦言。阎锡山倒处处显得很超脱，还和愁眉苦脸的侍从们说：“喝泉水好啊，没有漂白粉的味道，有助于你们延年益寿，得道成仙。”
来到菁山的阎锡山，在侍从们眼中，也似乎真有些“仙风道骨，莫名其妙”的情态。他写了很多对联，贴在“菁山竹庐”的大小门枋立柱上。
一为：
避避避，断断断，化化化，是三步工夫；
勉勉勉，续续续，通通通，为一等事功。
门额为：“朽去化欲。”
一为：
摆脱开，摆脱开，粘染上洗干净很不易；
持得住，持得住，掉下去爬上来甚为难。
门额为：“努力摆持”。
侍从们看不懂，更不愿问，倘若一问，阎锡山又要不厌其烦开会讲解，大家反倒落得个自讨苦吃。
阎锡山过世后，吴文蔚在《民国史上一个伟人——阎锡山先生》一文中写道：“阎氏隐居青山后，即专事著述，闭户不出，非国家大事，或总统有召外，不轻易入市。每晨7时起床，晚10时入睡，午餐后，休息2小时，其余时间即为会客、讲话、会议、思考与写作。晚饭后，独出野外，散步数十分钟，就寝前，展阅床头木板易经以自怡。”
尽管曾经担任过北伐时的集团军总司令、抗战时第二战区司令长官、38年的“山西王”，甚至“行政院长”兼“国防部长”，阎锡山在台湾的政治处境，其实相当尴尬。
他的由3幢窑洞式建筑组成的“菁山草庐”的外墙，最初是红砖砌成的。一次蒋介石住进台北市郊的荣总医院检查身体，无意中从病房窗前看到苍青如黛的阳明山中，凸露出几点伤疤一样的红色。当时政府已经把阳明山划为保护区，严禁任何人破坏。蒋介石以为有人在这里开山挖掘金矿，破坏禁令，马上下令严查。
警察马上捧着尚方宝剑赶到“菁山草庐”兴师问罪。到了这里让全副武装的侍从们挡着，才知道此处竟然住着前行政院长阎锡山，马上换了副笑脸，一点也不敢造次，绕着房屋转了一圈，还关心地提出建议，请他们在红色外墙上涂上一层厚厚的沥青。
侍从们怕老长官生气，不敢将此事禀报，背着阎锡山买来沥青，将红墙涂得一片漆黑。
阎大惊，问为何如此？
侍卫假言解释，空防司令部电话通知，红色太醒目，容易招来大陆飞机轰炸，涂上沥青安全许多。不单此处，台北也照此处置。
当时新中国刚刚成立，蒋介石虽然从大陆败退到台湾，但他的空军和海军力量仍然很强大，经常对广州、福州、杭州、南京等东南沿海城市，特别是上海的军事和经济目标进行狂轰滥炸。1950年2月6日对上海的空袭最为严重。当天，国民党空军出动B-25轰炸机和P-51、P-38战斗机共17架，轰炸和扫射上海，造成解放军和老百姓死伤1400多人，民房毁坏2000多间。杨树浦发电厂也在空袭中遭到严重破坏，造成上海大部分城区停电，生产停顿，而且使全国物价上涨风刮得更为凶猛，本来就非常困难的经济受到了更大的冲击。
面对国民党持续不断的轰炸，新中国仅有的一点空军力量无能为力，所以，在接到上海市市长陈毅的紧急报告后，刘少奇立即致电正在莫斯科谈判的毛泽东和周恩来，请求苏联给予援助。
1950年3月13日，由巴季茨基中将率领的混合航空兵集团进驻华东的上海、徐州等地机场，协助中国进行空防。从3月20日到5月11日，以徐州机场为基地的苏联米格-15战斗机4次起飞迎击国民党空军，共击落6架轰炸机，解除对上海的空袭威胁后，又不断飞越海峡，对台湾进行惩罚性轰炸。
来台初期，所有党政军高官的住宅都配建有防空设施，“菁山草庐”也不例外，房子外面的防空洞，水泥墙厚达40厘米。防空洞上面的山坡上，侍从们住的独立小楼也是砖石结构，房顶、墙壁上设有专门的射击孔，战争氛围相当浓重。
不久，蒋介石和宋美龄听说阎锡山离开台北，到阳明山中隐居去了，便特意抽时间前来看望。
“花径不曾缘客扫，蓬门今始为君开”。蒋介石夫妇专程前来拜望，而且来途中还走了一段山路，阎锡山还是打心底里高兴和感激的。他对蒋介石说，他老了，自卸下重担后，便已百无所求。表白自己远离闹市，只图找个清静地方，晚年潜心著书立说。
蒋介石就土地改革问题求教于阎锡山，阎锡山把他在山西准备搞而未搞成的“兵农合一”政策献了出来，说：“儿要亲生，土要深耕，存在第一，当下最好取寓兵于农之制。”
蒋介石听后，颇为所动。但陈诚则认为“阎先生之议必徒增纷扰”，他力主“耕者有其田”，正在强力推行自己的一套土改计划。事后证明，还是陈诚的土地改革的方针取得了巨大的成功。
蒋介石看到脱下军服的阎锡山一副心境淡泊、超脱世外的神态，而且潜心著述，两耳不闻窗外事，当即允诺，马上派人给阎锡山装一部军线电话，方便他与外界联系。
蒋介石与宋美龄能亲自登门拜望，这对阎锡山来说，既是一种“殊荣”，也是一种难得的安慰。陈诚接手行政院长后，出于礼仪，也进山看过他一次，此外，再也没有其他一位国民党政要上山看望过他。倒是一些报刊、电台记者，对这位经历了清王朝、北洋军阀、国民党统治的“三朝元老”颇感兴趣，屡屡造访“菁山草庐”。所以，阎锡山潜心研究的所谓“大同主义”，与“中和哲学”，常见之于台湾报端，这对处于世人冷漠之中的阎锡山，多少也添了些慰藉。
尽管过着隐居的生活，阎锡山却如同以前当“山西王”时一样，每天晚上都要召集部属们开会，会议记录他要亲自过目。他的“上谕”，原馥庭更得认认真真地记下来。
既是开会，总要有内容，这会天天开，阎锡山说些什么呢？下面，就是原馥庭认认真真记下的一份“上谕”。
1951年6月8日下午7点30分
从记录上来看，大家在言语上有了相当的进步。过去，大家习于流动的生活，等待的方式，后来到菁山虽有学习进步的风尚，是稍带的进步，不是专门的进步，所以不踏实。
阎锡山何以热衷于把部属们召拢来开会，这里有讲究。他在“菁山草庐”里每日伏案写作，甚至到了食不知味的地步。写什么？看看书名就知道，《世界和平与世界大战》《共产主义的哲学和共产党的错误》《收复大陆与土地问题》《反共复国的前途》。这些洋洋洒洒的长篇大论，反攻大陆的方略，一章章，一节节，全成了他组织部属们开会学习的教材。书稿完成后，再送去发表或是出版。有次谈得兴起，他竟大言不惭、豪气冲天地说：“一旦王师跨海北进，直捣黄龙，你们别看我阎锡山老了，真个反攻号响，我还要率领健儿们再打几个胜仗给国人看看；我有信心，生从太原来，我这把老骨头，还将活着回太原去！”
除了开会，这批长期跟随他南征北讨，出生入死的部属们，每天必做的事情便是开垦荒田，养鸡鸭猪牛，后来还在山坡上砌起一道道梯田，大种起橘子和松树。等到初见模样后，阎锡山一高兴，又题了块匾，为这片狭小的天地取了个“种能农场”的名。有时天气好，写作累了，他也会提把锄头，与部属们一起锄草种地。昔日威风八面的“山西王”、国府行政院长，自得其乐地在深山沟里当起了小小的农场主。
年届古稀的阎锡山看破红尘，能够“黄莲树下扭秧歌，苦中作乐”。他劝导部属们：“心安茅屋稳，性定菜根香。只要心安性定，一切苦难，皆能甘之如饴。”
只可怜了他那帮老部下，过去在太原城里，他们哪一个不是吃香喝辣，走在街上衣裳角角都能搧死人的角色，而如今每天扛着锄头上山累死累活，月饷微薄不说，晚上想偷偷到台北市里快活快活，囊中羞涩，也充不起大爷。吃的呢？一日三餐也难见油荤。
山西旅游协会访问团的成员在阎锡山墓前听张日明谈起当初在“菁山草庐”的清苦生活，都深感吃惊，说，他们曾看到有文章宣称，阎锡山从成都飞往台北的时候，往“美龄”号上装了十几口沉甸甸的大木箱，里面全是金条。
张日明听了大不以为然：“这种说法多了，台湾也有，说阎锡山过世前立下遗嘱，死后把他保存的黄金全部分发给来台的山西人，成人一两，儿童五钱。说得有鼻子有眼。不过，我敢保证，这些都是十八扯。你想想，他会让我们这些多年跟随他出生入死的老部下苦着，把黄金送给他认都不认识的山西老乡？后来为啥人都快跑光了？哎，就是连薪水都发不起了嘛。”
毫无疑问，这批山西壮汉都是阎锡山精挑细选到身边的忠勇之士。每个人有幸来到阎锡山身边的第一天，“舍身护主”就是他们最坚定的信念。但凡大人物用人都会讲究点乡谊，如蒋介石身边，浙江人就大大多于其他省籍的人。不过在这方面蒋介石和老阎锡山比起来，就只能算小巫了。“学会五台话，就把洋刀挎”，这句民谣对阎锡山的用人路线可谓一针见血。尤其是身边的人，那更是非山西人莫属。
这批山西汉子可以在危急关头毫不犹豫地为阎锡山赴汤蹈火，可他们唯独受不了清贫生活的长期煎熬。更何况，那还是一种毫无希望的煎熬。
那时“行政院”按月拨给阎锡山5万块钱，如果单单用来供这几十口人糊口，自然是绰绰有余，可他还必须承担这几十口人的薪水；在菁山占有的这片土地，也是阎锡山以私人名义向台北市金矿局租的，每年要付不菲的租金，修房盖屋，开荒种地的一切花销，也都一包在内，日久天长，阎锡山自然是捉襟见肘，入不敷出。阎锡山也清楚没有其他生财之道，他也负担不起这帮部属与他们家眷的生计，后来掏出老底，让侍从们创办了台兴印刷厂和兴中百货行。可这些玩枪使刀之人哪会办什么厂，经什么商？办一家垮一家，全都亏得血本无归。
当了38年“山西王”，怎么会穷到这等地步？莫不是阎锡山两袖清风，家贫如洗？
当然不是，不说他的金银珠宝大洋美钞，也不说他在太原城里的不动产，单是他那老家河边镇那栋大宅院，就足能证明他富有到什么程度？
这批阎锡山最信任的人中不少人去过河边村阎府，也享受过主贵仆荣的滋味。而如今的“菁山草庐”，和整天待在草庐里伏案写文章的白发老长官，却让他们一个个看到了自己暗淡无光的前程。微薄而且还难以保证的收入与山中的清苦寂寞，更让他们度日如年。绝大多数部属最终选择了悄然离开，40名侍从最终逃得只剩下张日明等8个人，连他最为倚重的原馥庭，甚至也打算离他而去。
树倒猢狲散，原馥庭等侍从们再怎么忠诚，也耐不住长时间孤寂和现实的折腾，慢慢地，侍从们就开始和老先生不辞而别了。上菁山不到3年，上山时的40人，剩下还不到10个。连当初从太原死人堆里爬出来，辗转数千里重新回到阎锡山身边的王延华，也终于有一天离开了他。那时原馥庭确实也萌生了去意，可是无论如何，他也做不到不辞而别。因为原馥庭知道阎锡山老先生最离不开的就是他。写作是阎锡山唯一的精神依靠，他连看报纸都早就用放大镜了，他要走了，阎锡山就没法写下去。可看到阎锡山身边的人今天跑一个，明天走一双，他也开始悄悄问自己，他已经那么老了，我还该不该继续在山上耗下去？在大陆时不存在这个问题，跟着阎锡山就是最好、最有保障的前途，可到了台湾，就不同了呀！
原馥庭回忆说：“我们……哎，说白了吧，彼此之间已经变成了一种雇佣关系，虽然这样说太商业化，太缺乏情义，但事实上谁都知道已经变成了那样一个现状。彼此虽然没有合同约束，可老先生真的到了那一天，我们可是连饭碗也打破了呀。我一个人倒好办，那时候我也有了老婆儿女，不考虑这些现实问题，也是不行的嘛。正好那时候我台北有一个朋友，问我能不能到台北来，他介绍我到一个机关里做事去？我想了几天，最后还是鼓足勇气去对老先生说了。老先生半天没有讲话，脑袋搭着也不看我。我心里既难过，又委屈，又感慨人生无常。过了很久，老先生双手捂膝，身子往前一倾，用一种很苍老的声音缓缓说：‘他们谁都可以走，你——不要离开我。’”
原馥庭感到鼻梁发酸，就这么一句话，彻底打消了他离开的念头。
原馥庭还以一个长期为阎锡山工作的学者的角度，对他的“雇主”进行了一番概括。他说：“阎先生一辈子坚持记日记和读书，以立德、立功、立言来鼓励自己，戒声色犬马，潜心研究学问，严格行为操守，在对‘中’的哲学、社会建设、物劳分配都有创造性的建树，特别是他自己撰写的《阎府家训》，系统地阐述了做人、做事之理，不管对任何党派的人，都很有教育启迪意义。阎先生生逢乱世，但难能可贵的是，他是一个很有思想的军阀，这也是他能够长期占据山西的一个重要原因。根据时局的变化适时地改变自己的战略，是他一贯的准则。在抗战中有两句话可以代表阎先生的思想，‘夏天穿衬衫，冬天穿棉袄，需要什么就来什么’、‘一等的事情要一等的人来做，一等的事情不做一等的人就会走，现在抗战是一等的事情’，老先生思想之超远深邃，由此可见一斑。”
对于阎锡山其人的历史功过，国、共两党按照通常的做法，自然有截然相反的评价。但奇怪的是，即便是在国民党内部，对阎锡山的评价也是大相径庭。这从一个侧面，也可反映出阎锡山历史的复杂性。在大陆方面，新中国成立之后，见诸文字的阎锡山大体是：“反共反人民的罪大恶极的战犯”，讲到他的活动，必冠以“反动”，论及他的作为，也必称作“罪恶”。这是一种难免的历史现象。改革开放以后，思想领域清除极“左”影响，文化日渐多元，评价趋于客观，又突出揭露他“两面三刀，钻营投机”的特性。不过，对他的所作所为，毕竟开始有了趋于客观的叙述和评价，对他的深入研究也显现出实事求是的开端。
台湾官方对阎锡山有诸多赞美之辞，但对他的公开贬斥，也同样是言辞激烈，针针见血。如在阎锡山去世之后六七天，针对有些人鼓吹应对其实行“国葬”的提议，台北《民族晚报》专门发表一篇名为《阎锡山值得国葬吗？》的社论，便能充分说明这个问题。中国有所谓“盖棺论定”的传统，对死人往往是多加褒扬，而对其过错则轻描淡写，略词带过。阎锡山刚刚盖棺，蒋介石亲往致祭，并送以“怆怀耆勋”的匾额，还以政府名义颁布《褒扬令》，纪念规格可谓高矣。而在此气氛之下，冒出这样的“社论”，显然不是毫无背景的文人所发的牢骚，而很可能正是表现了国民党权力核心对阎锡山的真实看法。
还有一封“在台三晋人士于阎在世时的一封公开信”，其言辞更不客气。信中说：“你在山西执政近四十年，做了些什么呢？众所周知，民四你对袁世凯劝进，民六参加督军团祸国，民七出兵湖南抗拒护法军，民十二助曹锟贿选，民十五出兵袭击国民军，民十九公开背叛中央，民二十以后阴结共匪，贴祸党国。你一生投机取巧，反复无常，蔑视党国，只图自身利益，惯于骑墙观望，利用机会，以求达到你的需要与存在。”将阎锡山满面抹黑，说得一无是处，其用词用心，显然也非等闲之辈。须知，台湾那时尚在“戒严令”下，稍有不慎，便会引来文字狱。以如此凶猛之言论公开攻击一位前“行政院长”而不致获罪，岂非咄咄怪事？
阎锡山一生死心塌地反共，没想死后却落了个“阴结共匪，贴祸党国”的罪名。
阎锡山和共产党时敌时友，打了多年交道，他对共产党的有一句评语倒还是不乏自知之明。抗战期间，他曾在一次会议上对他的高级将领们不无感慨地说：“现在一等聪明的人去了共产党，二等聪明的人投了日本人，在座诸位，包括我，都只能算是三等聪明之辈.”
除了住在台北的堂侄儿阎志昭每年来拜一次年，加上每晚把部属召集拢来开会以外，写书，是阎锡山最重要的精神依靠。但他写书与其他的人不一样，他不用笔，用嘴。一张小圆桌，面对面摆两个单人沙发，原馥庭与阎锡山对面而坐。阎锡山口述，原馥庭记录。这是阎锡山多年养成的习惯，以前即便写份简单的电报，他也是如此办理。原馥庭记录完一段，逐字逐句念给他听，记错或是不当的地方，再改再写。就在这寒酸的小书房里，就以这样的合作方式，阎锡山完成了他最后的著作《三百年的中国》。
阎锡生一生没有任何业余爱好，不嗜烟酒，不近女色，写作之余听听京戏，是他唯一的娱乐。
张日明说：“会长在菁山10年，没有看过一场电影，也没有到台北去看过一场戏剧。我们这些下面的人，有时晚上跑到台北去看电影，回来晚了，也得轻手轻脚，害怕被他发现。”
原馥庭说：“老先生是曾经沧海难为水，他这一生什么没经历过？什么没见过？可到了晚年，心里没有风景，见山不是山，见水不是水，只有以写书为唯一的精神寄托，日久天长，走火入魔，就变得食而不知其味了。”有一天傍晚时，我看见张副官把他的晚餐端上来放在桌子上，就站起身准备走了。老先生说：“你不忙走，我还有话对你讲。”他一边吃饭，一边和我说话，筷子挟起来往嘴里一塞，惊奇地对张日明说：“嗨，你怎么给我两根面啊？”我笑着告诉他：“会长，面条在下面，你挟的是上面的豆芽。”你想想，食而不知其味，就到了这样的地步。
一位朋友怕阎锡山寂寞，来信建议他接受宗教信仰，这样就可以经常出去参加宗教活动。但这位年过7旬的老人，却有着山西人特有的倔强，他回信告诉朋友，说他一天忙得很，按照眼下的进度，再过两三年，该写的也写不完，现在还日夜忙着赶工哩，所以他一点也不寂寞。
1960年5月20日这一天，蒋介石在中山堂举行庆祝他就任“总统”12周纪念大会。已经78岁的阎锡山接到了邀请，他知道和蒋介石见面的机会不会太多了，原本也打算前去参加。可是，因为重感冒加上气喘，他双腿无力，卧床不起，无法前往。就在第二天的正午，阎锡山被紧急送往医院。
张日明说：“荣总医院的救护车开来时，老先生已经挪不动步了，我和原秘书一人架一只手，把他搀扶到他平时晒太阳的竹椅上，4个人八只手，连椅子带人把他抬上车。救护车出了山沟以后，我看老先生脸色已经乌了，赶紧问医生，老先生能不能送到医院？医生说可以，我就有些放心了。可再往前走了不到5分钟，老先生大睁着眼，长长地吐了一口气，就过去了。没想他走得那么快。对我们来说……哎呀，那就是天塌下来了啊！”
原馥庭说：“走得快，走得突然。这样其实最好，大寿善终，算得完满的结局。”
从50岁起，阎锡山每年元旦早晨就要口述“遗嘱”。他的“遗嘱”有遗致山西部属的，有遗致儿孙的。他在日记中这样写过：“去年遗嘱成废纸，今年遗嘱将何如？”
每年“遗嘱”的首句多为“人生七十，古稀有之，余今已五十有几矣……”结果搞了二十多年，才在1960年去世。生前留有挽联多对，其一为：有大需要时来，终能成大事业；无大把握而去，终难得大机缘。
如今，守护着墓园的仍然是阎锡山主掌山西时代的老侍从张日明。只是，当年的风发少年，如今已垂垂老矣。
三晋民谣称，山西有座山，名叫阎锡山。而昔日山西的这座巍巍大山，留在台湾的，却只剩下了孤坟一座，孤魂一缕……