海瑞虽然出生于官僚家庭，但到了他父亲这一辈，却仅仅是个廪生(19)，家里并没有什么钱财。海瑞四岁时，他的父亲就去世了，只剩下孤儿寡母，靠祖上留下的几亩田地维持生活。海瑞的母亲虽然贫穷，但是十分刚强，她相信凭自己的努力，一样能将儿子培养成才。因此她对海瑞十分严格，从不让他出去玩耍。海瑞并不因此责怪母亲，一头扎在书本中，整日以书为友。

海瑞读史发现，历代王朝的没落都与臣子们的贪污腐败有关，因此他立志：如果有一日我做了官，一定不谋私利、刚正不阿。为了表明决心，他还自号“刚峰”，意思是像山峰一样刚强正直。

海瑞学习时，对王阳明所提倡的“立诚”十分赞同，反对“乡愿”作风。他认为官员应该为人们办实事，不要搞一些面子工程。公元1549年，三十五岁的海瑞参加乡试，写了一篇关于海南黎患的文章，叫《治黎策》。在文中他提出了治理海南的可行政策，建议开通十字道路，设县所城池。主考官觉得他见解独到，于是海瑞中了举人。

时隔一年，海瑞上京参加会试，又向朝廷上交了一篇《平黎策》，不料却没有引起朝廷的注意，结果一连四年他都没有考中。第四年春天，海瑞被海南承宣布政司调派到南坪县当教谕，才有了施展才华的机会。

海瑞对学生们说：“读书人要有骨气，要挺直腰板，不能卑躬屈膝。”有一次，朝廷的御史前来县学视察，所有的老师都跪在地上迎接，只有海瑞长揖行礼。海瑞说：“在学堂这个地方，老师不应该向他人行跪拜之礼。”