早在1937年8月，吴玉章就受党中央委托，负责过陕北公学的筹建；此外，他还担任了延安大学、鲁迅艺术学院的校长。

1949年，新中国成立后，党中央决定在华北大学的基础上组建中国人民大学。1950年2月，中央人民政府任命吴玉章为第一任校长。

开学典礼上，他动情地说：“要培养新民主主义的革命和建设的干部，为完成中国新民主主义而奋斗。”并为人大制定了“忠诚、团结、朴实、虚心”的八字校训。

当时人大成立初，办学条件简陋，常露天上课。从这时起，吴玉章就始终将教育事业放在自己人生首位。他不顾年老体弱，深入调查，克服了种种困难，用了不到一年的时间，就把人大办得有声有色，培养出了一大批优秀的新中国建设干部。

他一生都以“做点有益于人、有益于国家的事情”来鞭策自己。晚年，他依然潜心治学，为中国高等教育和大众教育的发展做出了不可磨灭的贡献。

谢觉哉曾经这样高度评价他：“况有三千诸弟子，东西南北立功勋”。

他领导了中国人民大学的创建和发展，担任校长达17年之久，直到1966年12月12日去世。他为中国人民大学确立了正确的办学指导思想和办学方针，奠定了优良的传统和独特的校风，使这所大学成为新中国高等教育，特别是人文社会科学的一面旗帜。

人大建校之初，大批苏联专家来校任教，他特别强调了联系中国实际学习苏联经验：“苏联教授都是很有学问的，但他们不甚了解中国的情况，我们要把他们讲授的内容很好地和中国实际结合起来，否则是不可能做好教学工作的。”

他清晰地认识到，教育不仅要传授知识，更要培养学生的实践能力。他说：“学生一经毕业，即服务社会，故在修学期中，宜多予各生以研究之机会。”他要求学生刻苦学习业务，牢固地掌握知识，“希望我们课堂里没有一个害怕艰苦的人的座位”，“更不要有一个人虚度时光而成为使自己和学校都不光彩的废品”。

他提倡普及教育，在他努力下，大量工农群众进入了大学，接受了高等教育。

1952年，他结识了全国劳动模范郝建秀，并邀请其到人大学习。他还亲自关心郝建秀的学习生活，并请有经验的老师来辅导。

1960年，他以80多岁的高龄，写下一首“自励诗”：

春蚕到死丝方尽，人至期颐亦不休。

一息尚存须努力，留作青年好范畴。

他不仅这样说，更是这样做。88岁时，他还常登上讲台，给学生授课。

他作为革命和教育事业的“功臣”，本可以过着物质充裕的生活，但他却一生勤劳简朴。据长孙吴本渊回忆说：“他眼里就没有‘钱’这个概念，一生不吸烟、不喝酒、不打牌，甚至连茶也很少饮用，家里的床都是用砖头垒起来的。”

他一生波澜壮阔，自己却说：“我并无过人的特长，只是忠诚老实，不自欺欺人，想做一个‘以身作则’来教育人的平常人。”

总结起来，他的教育思想，有这样几点启迪作用——

一、以革命教育为主导。

他深切认识到，革命的教育工作就是要为革命工作和建设工作培养各方面的干部人才。

因此，在他主持起草的《延安大学教育方案》中，明确指出该校的办学目的：“依照新民主主义社会之需要，进行各种教育，使学员获得并掌握专门业务的知识与技能；进行政治教育，以增进学员革命理论的知识，培养学员具有革命观点、群众观点、劳动观点，作为人民服务的忠诚勤务员。”

他在人大成立大会的讲话中，又一次指出：革命的大学就是要“培养新民主主义的革命与建设的干部，为完成中国新民主主义革命而奋斗”。

二、革命教育中政治思想教育十分重要。

他曾经回忆说，在中国革命的几个阶段中，有不少青年最初是热忱爱国、英勇奋斗的，但是后来就有些人经不住考验，有的消极隐退，有的腐化堕落，有的变成了反革命。原因虽是多方面的，但首要原因，就是这些人没有真正地树立起革命的世界观与人生观。

因此，他认为学生的政治思想教育十分重要，需要贯彻到教学的各个环节中去，务必使学生学会辩证唯物主义的思想方法与工作方法，牢牢地树立为人民服务的思想。

三、重视教育的普及。

他认为“大众是社会组成的基本。大众的进步与落后并不在于生性的聪明或愚蠢，而在于教育的好与坏。教育好的国家，那就人人都有力量，而教育也有力量；教育坏的国家，那就人人都没有力量，或力量很小，因此国家也不能富强起来”。

他早在留学苏联期间，就与瞿秋白等人一起制定了中国拉丁化新文字方案，在苏联的华侨中推广，取得了较好的效果。

抗日期间，他在陕甘宁边区和敌后抗日军民中，大力提倡新文字，借以扫除青壮年中的文盲和提高工农群众的文化水平。他创办了《新文字报》，并亲自主持新文字教员训练班和新文字干部学校。为了提高新文字教学的效果，他认真指导编写教材，亲自担任教学工作，常常步行或骑着毛驴到十多里外的学校给学生上课，教学生发音，解答各种疑难问题。

四、开放的教育主张。

他主张以马列主义为指导，贯彻理论联系实际的原则；根据时代的不同，从国家需要出发，办学多样化，形式多样化；要掌握马列主义的立场、观点和方法来发现问题，提出问题，解决问题；教师一定要有纯洁而高尚的品德和较高的业务水平，以自己渊博的常识和高尚的品德传授并影响学生；坚持“百花齐放，百家争鸣的方针，鼓励教师独立思考，勇于创造，敢于实践”；尊师爱生，教学相长；从严治校，从严治教，对学生严格要求，教育学生要具有高尚道德品质，树立全心全意为人民服务的观点。

回顾他担任鲁迅艺术学院院长、延安大学校长、华北大学校长、中国人民大学校长的教育历程，他第一个在中国提出“素质”和“素质”教育的概念、目标、原则和方法；他第一个把教育与国家强盛联系起来，提出了“教育兴国”的思想；他第一个在我国教育史上提出管理人才的培养问题；他第一个开创了中国函授教育的先列。