书院弊端
在进行政治和经济方面的改革之后，张居正又将眼光放在了教育上。当时教育领域的风气可谓乌烟瘴气：学生私自贿赂教员，而教员不负责任的同时也非常不自重。这导致很多人开始将名利作为目标，私下为了仕途走贿赂捷径的人越来越多。如此一来，学子们不再追求学业，都一心想靠走后门进入官场。而一些官员也为了自身利益，开始纵容并接受好处。张居正对这种现象感到十分头疼。他认为官场之中的腐败，根源就是从教育开始的，如果想要彻底地杜绝这些现象，那么就要用强硬的手段进行教育风气的改革——必须先整顿翰林院，而后推广至全国各地的普通书院。
在教育问题上，另一个比较突出的问题是私自开办书院，打着书院的旗号聚敛财富。为此，张居正多次向万历皇帝上书要求关闭私人书院，严查私办书院的相关人员。
当时张居正得到可靠的消息，说有一名叫施观民的人违背朝廷的旨意，私自开办书院收敛财富。张居正以此为契机，下令查封。同年七月和十月，张居正又两次下发公文，不许私人创办书院，一旦发现，严惩不贷。
书院改革
万历三年（1575）五月，张居正向万历皇帝上书，强烈要求“整顿学风、重振人才”，并且请旨要求将教育系统的官员一律换成品行端正、博学多才的官员；要求负责监督教育的官员，要经常亲自到一些州县去考察，广泛地提倡孝道，推举清廉作风；要求学子应该好好读书，不能结党营私，而且不能谈论国家之事。
对于教育方面的改革，张居正还制定了非常严密的条例：
一、在改革实施以后，各个省负责监管教育的官员都要亲自带领教员与学子将平时所学习的课程进行探讨；教员以及学子不允许在府学、州学、县学之外的地方私立书院，更不能结党营私，召集一些无用之徒，谈些与学业无关之事；不能妄想走捷径行贿赂之事。
二、如果教员以及学子在平日里荒废学业，买通官府假公济私或者包揽官司、行为伤风败俗者，一旦证据确凿，不管平日成绩怎样出众，立即开除，朝廷不再录用。
三、关于朝廷以及国家的弊端，民众都可以直言进谏，但是学子们不能发表任何观点。
四、各省专管人员，要在朝廷的指示下开办学校，不能越职越权，更不能利用任何理由以及借口谋取利益或者拿好处为别人谋取官职。
五、各省管理教育方面的官员，每年都必须亲自前往所管辖的地区做考核，考核结果必须真实，且上报给朝廷。
六、在每年的考核过程中，书院的教员以及生儒必须严格地监督，不能出现私自包庇的现象。一旦出现碌碌无为、荒废学业者，立刻开除，不得纵容。如果被开除的学子传播流言或者想私自进行报复，那么就立即查出证据，交由朝廷严惩。
七、学子文理不通者，考试不及格者，接受助学银有超过十年以上者，全部派到周围地区衙门充当胥吏；接受助学银有六年以上者，派到本地衙门充当胥吏。
对于张居正拟定的这些条例，万历皇帝十分赞成。因此，万历皇帝立即下旨，要求相应的部门按照这些条例进行；如果有不按此执行者，立刻罢黜，而且绝不能徇以私情。
张居正想彻底改革教育体系，但上面的措施却明显力度不够。于是，在万历七年（1579）正月，张居正再一次上奏要求整顿教育界的风气，而这次的手段更加严厉了—张居正要求全国的私立书院都要彻底禁止开办。因为当时张居正得到了可靠的消息，据说有一个名叫施观民的人违背了朝廷的旨意，私自开办了学院，并且利用机会为自己收敛财富。而张居正也借此称私自开办的学院都普遍出现了这种徇私枉法的行为，因此所有私人建立的书院，全部被查封。同年七月和十月，张居正又两次下发公文—不许私人创办学院，一旦发现立即严惩不贷。接着，神宗皇帝下达旨意，取消了全国六十四处学院，很多在历史中非常有名气的书院也在这个时候终止了教学。当时的张居正在推行政策时，非常独断专行，以致张居正的这些做法遭到了很多读书人的反对。而其中，一个名叫何心隐的人反对得最为强烈。
书院争议
张居正在改善教育上的作为是利是弊，争论很大。尽管一度净化了教育界的风气，但其独断专行，遭到了很多读书人的反对。在禁止私设书院这件事情上，就招致很多质疑。当时，由于很多著名的书院也被禁止，其中一个名叫何心隐的人，站出来公开反对张居正。
张居正在颁布禁止私办书院后，严厉打击各地的私人书院。但禁学令下仍然有人开办私院，到处讲学。以王良在山东开创泰州学派为代表，声称要将泰州学派发扬天下。何心隐是泰州学派的代表，常聚集一些群众来听王良讲学。
何心隐走南闯北，在湖北孝感聚众讲学，对张居正的做法予以驳斥，并且还拟告状，要与张首辅辩论一番。
在湖北，何心隐还倡导建立独特的公社式团体，名之曰“会”，提倡在会中“老者相与以安，朋友行与以信，少者相与以怀”。何心隐以布衣倡道，这对处于疾苦之中的民众，不妨说也是一种安慰，因此受到底层社会群众的拥戴。
但他的行为势必与朝廷“不许群聚徒党”的规定相违背，并且他还经常在讲学的过程中出言侮辱朝政。对此，张居正不能容忍，命湖广巡抚捉拿何心隐归案，上报朝廷，最后将其打入大牢。何心隐于万历七年（1579）九月死于狱中。
上述措施虽带有强烈的政治色彩，但再一次证明张居正整顿教育风气的决心。万历七年（1579），他再次上书万历皇帝，要求对全国私立书院彻底严禁。
从张居正改革取得的成效来看，禁止书院是正确的。读书人在明朝有地位，书生的言论可以左右朝政，但事实上，一些读书人只有理论，不能从实际出发。而张居正是位实干家，讨厌纸上谈兵。