在进行政治和经济方面的改革后，张居正又将目光放在了教育上。当时教育领域的风气可谓是乌烟瘴气，学生私自贿赂教员，而教员不负责任的同时也非常不自重。这导致很多人开始将名利作为目标，私下为了仕途走贿赂捷径的人越来越多。如此一来，致使学子们不再追求学业，只是一心想靠走后门进入官场。而一些官员也为了自身利益开始纵容他们并接受好处。张居正对这种现象感到十分头疼，他认为官场之中的腐败，根源就是从教育开始的。如果想要彻底地杜绝这些现象，那么就要用强硬的手段进行教育风气的改革。

万历三年（1575年）五月，张居正向神宗皇帝上疏，强烈要求“整顿学风、重振人才”，并且请旨要求将教育系统的官员一律换成品行端正、博学多才的官员；要求负责监督教育的官员，要经常亲自到一些州县去考察，广泛地提倡孝道，推举清廉作风；要求学子应该好好读书，不能结党营私，而且不能谈论国家大事。

对于教育方面的改革，张居正还制定了非常严密的条例：

一、在改革实施以后，各个省负责监管教育的官员都要亲自带领教员与学子将平时所学习的课程进行探讨，这样就可以满足朝廷对人才的需要；教员以及学子不允许在府学、州学、县学之外的地方私立书院，更不能结党营私，召集无用之徒，谈与学业无关之事；不能妄想走捷径行贿赂之事。

二、如果教员以及学子在平日里荒废学业，买通官府假公济私或者包揽官司、行为伤风败俗者，一旦证据确凿，不管平日成绩如何出众，立即开除，朝廷不再录用。

三、关于朝廷以及国家的弊端，民众都可以直言进谏，但是学子们不能发表任何观点。

四、各省专管人员，要在朝廷的指示下开办学校，不能越职越权，更不能利用任何理由以及借口为自己谋取利益或者为别人谋取官职。

五、各省管理教育方面的官员，每年都必须亲自前往所管辖的地区作考核，考核结果必须真实上报给朝廷。

六、在每年的考核过程中，对书院的教员以及学子必须严格地监督，不能出现私自包庇的现象。一旦有碌碌无为、荒废学业者，立刻开除，不得纵容。如果被开除的学子传播流言或者想私自进行报复，那么就立即查出证据，交由朝廷严惩。

七、学子文理不通，考试不及格，接受助学银超过十年以上者，全部派到周围地区衙门充当胥吏；接受助学银六年以上者，派到本地衙门充当胥吏。

对张居正拟定的这些条例，神宗皇帝十分赞成。因此，神宗皇帝立即下旨，要求相应的部门按照这些条例执行。如果有不按此执行者，立刻罢黜，而且绝不能徇以私情。

张居正想彻底改善教育体系，但条例上面的措施却明显力度不够。于是，在万历七年（1579年）正月，张居正再一次上奏要求整顿教育风气，而这次的手段更加严厉了——张居正要求全国的私立书院都要禁止开办。因为当时张居正得到可靠的消息，有一个叫施观民的人违背朝廷的旨意，私自开办学院，并且利用这个机会为自己聚敛财富。而张居正也借此称私自开办的学院普遍出现这种徇私枉法的行为，于是所有私人建立的书院，全部被查封。同年的七月和十月，张居正又两次下发公文——不许私人创办学院，一旦发现，立即严惩不贷。接着，神宗皇帝下达旨意，取缔了全国六十四处学院，很多在历史上非常有名气的书院也在这个时候终止了教学。当时张居正在推行政策时，非常独断专行，以致张居正的这些做法遭到了很多读书人的反对。其中，一个叫何心隐的人反对得最为强烈。

何心隐本名叫梁汝元，是江西永丰人。王艮在开创泰州学派之后，喊着反潮流的口号，称要将泰州学派发扬天下。何心隐当时非常配合地游学南北，聚集一些群众来听他讲学。显然，他的行为违反了朝廷“不许群聚徒党”的规定，并且他还经常在讲学的过程中出言侮辱朝政。于是，湖广巡抚在上报朝廷之后，将他打入了大牢。

有记载称，何心隐还曾经大言不惭地说，内阁首辅大臣张居正专制独权，一手遮天，他一定会到京城广传言论，势必将张居正从高位上拉下来。张居正在听说此事后就下令逮捕何心隐，而一些官员为了讨好张居正，便将何心隐杀死在狱中。

当时有一名泰州学派的思想家李贽，他写了一篇名叫《何心隐论》的文章，文章中赞扬了何心隐的作为，同时也间接地批判了张居正的过失。文章中这样写道：“人莫不畏死，公独不畏死，而直欲博一死以成名。公今已死矣，吾恐一死而遂湮没无闻也。今观其时武昌上下，人几数万，无一人识公者，无不知公之为冤也。方其揭榜通衢，列公罪状，聚而观者咸指其诬。非惟得罪张相者，有所憾于张相而云然……而咸谓杀公以媚张相者为非人也。”