奇怪的落榜
张居正中乡试的第二年，也就是嘉靖二十年（1541），也是会试的这一年，这次张居正居然没有参加考试。按明代的制度，乡试的次年便是会试，新科的举人都要入京。也许张居正因为年龄太小，就没有去。
到嘉靖二十三年（1544），张居正入京会试，这次却失败了。他曾说到失败的原因：“夫欲求古匠之芳躅，又合当世之轨辙，唯有绝世之才者能之，明兴以来，亦不多见。吾昔童稚登科，冒窃盛名，妄谓屈宋班马，了不异人，区区一第，唾手可得，乃弃其本业，而驰骛古典。比及三年，新功未完，旧业已芜。今追忆当时所为，适足以发笑而自点耳。甲辰下第，然后揣己量力，复寻前辙，昼作夜思，殚精毕力，幸而艺成。然亦仅得一第止耳，犹未能掉鞅文场，夺标艺苑也。”（书牍十五《示季子懋修》）
在这封张居正在后来给儿子张懋修的信中，他回顾往事，从中我们可以看出他的详细检讨：由于小小年纪就轻易地取得秀才、举人功名，他有些忘乎所以，以为进士及第“唾手可得”，加之对应付科举考试的“制艺”不屑一顾，对“治国平天下”紧密相关的政治实务兴趣浓厚，于是放松了科举本业“四书”“五经”的钻研，将精力转向了西汉的一些政论文。因为沉醉于对汉代政论文治国之道的研究，所以疏忽了对八股文形式上的训练，这就是张居正第二次落榜的真正原因。于是他幡然醒悟，重新回到“应试教育”的轨道，埋首于“四书”“五经”。
再次赶考，终入“进士题名碑”
嘉靖二十六年（1547），张居正再行入京会试，会试以后，再入殿试。这次张居正成功了，中二甲进士，被分配到翰林院担任庶吉士。翰林院是负责编写历史和管理图书的中央政府部门，看似清闲，实际在明朝的政治体制中至关重要。明朝文学与政治人才，往往集中于翰林院，所以翰林院为储备人才的地方，事实上进入中央政府内阁（中枢部门）的官员也大多是翰林出身。
庶吉士在明初设立，从新科进士中选择文章书法好的担任；开始时，分设于六科，永乐后专属翰林院。殿试后授翰林院庶吉士的人称为“点翰林”。庶吉士在翰林院相当于没有官品的实习生，主要学习、研讨诗文，或钻研朝章国故。新科进士经过庶吉士阶段，才可以授予有品级的官职。庶吉士在翰林院中称“馆选”，学习三年，期满考试后分发任用，称为“散馆”。优秀的庶吉士授编修、检讨等，其余人分别任官。庶吉士出身的人升迁很快，英宗以后，朝廷形成“非进士不入翰林，非翰林不入内阁”的局面。人们便把庶吉士看作“储相”，也就是内阁的人才储备处，内阁大学士的候补队伍。
《明史·选举志》言：“成祖初年，内阁七人，非翰林者居其半。翰林纂修，亦诸色参用。自天顺二年，李贤奏定纂修专选进士，由是非进士不入翰林，非翰林不入内阁，南、北礼部尚书、侍郎及吏部右侍郎，非翰林不任。而庶吉士始进之时，已群目为储相。通计明一代宰辅一百七十余人，由翰林者十九。盖科举视前代为盛，翰林之盛则前代所绝无也。”
徐阶成为张居正的老师
张居正入选庶吉士，他的老师是严嵩、徐阶。徐阶当时以吏部左侍郎身份兼任翰林院掌院学士，职责之一就是教育辅导那些庶吉士，也就相当于是常务副校长，所以自然是张居正的指导老师。
徐阶是松江华亭人。《明史·徐阶传》记载，徐阶是以进士及第，全国第三名，也就是探花的身份进入官场，先是授翰林院编修。徐阶刚入官场时年轻气盛、意气风发、锋芒毕露，喜欢发牢骚、议论是非。嘉靖皇帝后来心血**，要彻底整顿风气，竟然废去老子“大成至圣文宣王”的称号，只称为“至圣先师”，徐阶十分不满，立即跳出来，用激烈的言辞反对内阁首辅张璁迎合嘉靖皇帝崇道教贬抑孔子的主张，既批评首辅，也批评皇帝。这一举动不但惹恼了嘉靖皇帝，而且得罪了内阁大学士张璁。徐阶虽然很有才，却还是没有好果子吃，被贬到边远地区做了个小官。徐阶被贬为福建省延平府推官，专管当地的司法以及各类刑事案件；且福建延平府位于闽北地区，多山区，在当时可谓穷山恶水，在那里办公轿子是肯定没法坐的，经常要骑马，由于推官这个岗位决定了他要经常外出，状况就可想而知了。当时延平府的大案要案频发，司法官员要么徇私舞弊，要么磨洋工、出工不出力，徐阶面对这种情况，本着二十多年学的四书五经、道德圣贤之言，始终自信地一切由自身出发，刚正不阿、雷厉风行，遵守礼义廉耻，修身齐家治国平天下，何况区区延平府的大大小小的刑事案件。正因有如此的想法，经过一个月的努力，徐阶终于处理完了积压的繁杂案件，该判的判，该放的放，延平府治安一片清净，他的威望也由此大增。他裁撤贪官、不作为官员，府内官员的政治操守也慢慢改正。特别是当时延平多盗，他到任后捕巨盗一百余人，清理积案，释出系囚，赢得声誉，升为黄州同知，后又擢为浙江按察佥事，进江西按察副使，并主浙、闽二省学政。不久徐阶又被奉调回京，任京官；又因直言被贬官。经历挫折后，徐阶收敛锋芒谨慎起来，变得圆滑老练。
但徐阶却重视经邦济世的学问，也特别赏识张居正。嘉靖二十六年（1547），徐阶来到了翰林院，成了掌院学士。他的第一个使命是教育去年刚刚考进来的庶吉士。一般说来，翰林院的掌院学士是不会理会庶吉士的，最多不过是在入学时见个面，训几句话。但徐阶依然保持了他的传统作风，抽出时间，挨个儿找庶吉士谈话。当然了，他的目的绝不仅仅是鼓励他们认真学习。正是在这一系列谈话中，张居正给徐阶留下了深刻的印象。他的谈吐和见识，还有无与伦比的聪慧，都让徐阶惊叹不已。
在徐阶的引导下，张居正努力钻研朝章国故，沿着太祖的规制，分析现实危机，分析历朝兴衰，对治理国家有了初步认识和思考，为他日后走上政治舞台打下了坚实的基础。