当时，在德国以外，欧洲中部最著名的技术学校就是苏黎世联邦理工学院（the Swiss Federal Polytechnic School）。爱因斯坦参加了这所院校的入学考试。虽然他的数学知识远超他人，但由于现代语言知识和描述性的自然科学知识（动物学和植物学）比较欠缺，最终未被录取。离开慕尼黑后，爱因斯坦所担心的事情终于发生了，他似乎不能按原先计划行事了，他受到重重的打击。

理工学院的主任看中了爱因斯坦数学上的才华，建议他先去一所瑞士学校读书拿学位。这所先进的州立学校坐落在小城阿劳。爱因斯坦并不看好这所州立学校，他担心自己会再次成为僵化体制下的“囚徒”，就像在慕尼黑高级中学一样。

爱因斯坦惊恐万分，忐忑不安地去了坐落在阿劳的学校读书。令他惊喜的是，州立学校的办学理念和慕尼黑高级中学截然不同。这里没有类似军国主义那样的机械训练学习，学校以培养学生独立思考、独立动手为宗旨，教师与学生互动频繁，友善商议讨论，气氛和谐。学生也没有要求固定在一个教室，学校为每门功课配置了仪器室、标本室和配件室。上物理课和化学课时，学生可以在仪器室做实验；上动物课时，学生可以到一间小型博物馆去，也可以使用显微镜观察微生物；上地理课时，学生可以查阅外国地图和图片。

因为这所学校，爱因斯坦不再讨厌学校，他与同学的相处也更加和谐。当时他住在学校的一位老师家。老师有一双儿女，爱因斯坦经常与他们一起爬山。在阿劳，爱因斯坦有机会与一些人详细探讨公众的生活问题，瑞士人热衷于讨论这类话题，这是他们的一种传统。通过这样的交谈与讨论，爱因斯坦熟知了一种与从前在德国所接触的截然不同的观点。

一年以后，他从州立学校顺利毕业了，随即被苏黎世联邦理工学院免试录取。这时他放弃了找工作的想法。在阿劳求学时，他发现在高校当一名物理或数学老师不仅可以继续探索自己钟爱的研究，同时还能过上体面的生活。正巧，苏黎世联邦理工学院的一个物理、数学老师培训部门需要招人，他便想去申请这个部门的工作。

在州立学校求学那一年，爱因斯坦也明白自己的主要兴趣是物理，而不是单纯的数学，这与他当年在慕尼黑时的想法有所不同。他的志向是通过理解自然法则，去发现最简单的规则。不巧的是，当时的理工学院物理教学方法陈旧又迂腐。学生学到的都是已经被技术应用领域检测了的，常见诸于教科书上的那么一点物理定律。老师几乎不跟学生讲自然现象的客观分析方法，也很少讨论自然现象中包含的综合原理等知识。

尽管物理教学并没有讲授什么深刻的思想，但这的确激励了爱因斯坦去阅读该领域的伟大著作。当时正处于十九世纪末，物理科学的发展也进入一个拐点。杰出的科学家用引人入胜的笔触记录下了这一时期的理论。爱因斯坦研读着这些理论物理学的经典著作，诸如赫姆霍兹、基尔霍夫、玻尔兹曼、麦克斯韦和赫兹的著作。他日日夜夜如痴如醉，从中学会了建构数学框架的方法，这些知识有助于物理结构的建立。

与物理教学相比，学院的数学教学水平要高得多。有位叫赫尔曼·闵可夫斯基的数学教师，俄国人，年纪轻轻就被视为是当时最有原创精神的数学家之一。他不太擅长授课，爱因斯坦也不喜欢他的课。就是在这段时间，爱因斯坦对纯数学失去了兴趣。当时，爱因斯坦认为最简单的数学原理就足够阐释物理学的基本定律。然而事与愿违，不久他就发现，建构物理学的基本原理必须基于高度发达的数学概念之上。而正是这位闵可夫斯基老师枯燥的数学课，为爱因斯坦的理论提供了数学公式的构想，这些构想成为其未来理论发展的萌芽种子。

苏黎世联邦理工学院在国际上声名远播，学校有大量的国外学生，其中以来自东欧或东南欧的学生人数居多。这些人或因为不能，或不愿意在本国上学才远赴苏黎世联邦理工学院求学，苏黎世也因此成了孕育未来革命的摇篮。在这些国际学生中，奥地利学生弗里德里希·阿德勒与爱因斯坦颇为熟识。他是位身材消瘦、脸色苍白、皮肤白皙的年轻人，与其他来自东欧的同学一样，他热爱自己的研究领域，狂热地相信社会革命的发展。他的父亲是维也纳社会民主党领袖维克托·阿德勒，父亲送他来苏黎世学习物理就是想让他远离政治。另一个熟悉的同学是一位名叫米列娃·玛丽切奇的年轻女孩。她来自匈牙利，母语是塞尔维亚语，信仰希腊东正教。她从前生活的那个圈子在匈牙利的东南部，人口众多。那儿的人极力反对马扎尔人的统治。像很多东欧女学生一样，玛丽切奇专注自己的学习，很少有时间去跟男同学交往。她和爱因斯坦有着共同的学术兴趣，热爱研究物理科学，两人因此经常在一起。但两人的性格有差异，爱因斯坦喜爱思考，更喜欢把思想诉诸文字，而米列娃·玛丽切奇则沉默寡言，颇为冷淡。由于当时爱因斯坦完全沉浸在自己的研究中，并没有意识到这些。

苏黎世的这段求学时光对爱因斯坦的智力发展大有裨益。不过，这段日子过得并不舒坦。当时他父亲的经济状况极为艰难，不能给他资助。爱因斯坦每月从有钱的亲戚那得到一百瑞士法郎，从中他还得抽出二十瑞士法郎用来支付瑞士公民身份所需的费用。他希望毕业后能获得瑞士公民身份。尽管爱因斯坦这段时间的生活并没有经历真正的穷困潦倒，但也过得不奢侈。