1933年早冬的一天，哈佛委员会的成员之一罗伯特·霍曼斯(Robert Homans)来到科南特家里喝茶，霍曼斯刚刚成为哈佛两个管理委员会的成员，科南特对此人所知甚少。哈佛的管理较为特殊，有两个委员会，一个是校内委员会，由七人组成，包括校长、财务总管和五位大学老师，负责处理校内的重大事情；另一个是由三十人组成的董事会，理论上董事会可以否决校内委员会的决议。

科南特预料霍曼斯会问他认为谁会是下届的哈佛校长。在11月，罗威尔校长已经表明他即将离任。科南特的一位大学同学柯蒂斯(Curtis),在七人管理委员会任职多年，已征求过科南特的意见，科南特表示他支持一位多年老友，研究英国文学的肯尼斯·默多克(Kenneth B.Murdock)教授，他是文理学院的院长。

那时没人会相信，霍曼斯是在探询科南特本人成为校长的意愿。对科南特来说，这次访问是一次与掌握哈佛命运的哈佛委员会成员之间真诚谈话的机会，因此他说了一些对于学校政策的看法，他认为罗威尔校长努力确保文理学院中那些助教地位的做法值得商榷，他十分怀疑那种个人指导体系的适用性。化学系几乎是唯一拒绝罗威尔校长提供的用于增加学生指导员经费的系。科南特认为，这些做法导致大学中充满了平庸的、仅为学生提供辅导的年轻人。学校需要指导员，但是标准应该更高，而非平庸的年轻人。

霍曼斯对科南特关于导师指导体系和学生指导员任命的负面观点很感兴趣。因为他与科南特在对大学体系的看法上有同样的观点。大学应该是杰出学者的集合，一所大学的终身教授如果是世界上最杰出的学者，那么这所大学就是最好的大学。如果某人是由于对某系有帮助或者是提供捐赠，或者是其他的个人原因被任命为教授，那么这所大学就违背了他的宗旨。科南特在描述目前哈佛选择教授的方式时有些激动，他不仅对自然科学家有了解，而且对人文和社会科学领域也有所了解。他认为，当时哈佛的政策正在使哈佛走下坡路。

随后，科南特得知自己成为了校长的候选人。前任校长罗威尔和大学委员会经过了激烈的讨论、详细的考察，决定让科南特接任哈佛第23任校长。当时许多人不同意委员会的决定，认为让一个化学家当校长是错误的，他们对科南特管理大学复杂事务的能力表示怀疑。哈佛著名哲学家阿尔弗雷德·诺斯·怀特海(Alfred North Whitehead)就认为，近视的专家不足以协调各领域的思想与信息。准确地说，他认为科南特不具备大学校长应有的素质。当然，也有人认为，科南特具备当校长的能力，他改革大学的想法有利于哈佛的发展。董事会成员通过对专家推荐的评审，逐渐打消了顾虑。当时霍曼斯(Homans)公开了与外交史专家巴克斯特(James P.Baxter)的一段谈话，其中，巴克斯特称科南特几乎是一个天才。怀特海还是不赞成，他武断地说：“董事会不应该选一个化学家当校长。”有人反驳说：“艾略特是化学家，但也是我们最好的校长。”怀特海回答：“是的，这我知道，但艾略特是一个不够格的化学家!”的确，不了解科南特的人会认为，科南特只懂科学研究，善于与物质世界打交道而没有人际管理的能力和对大学发展的长远眼光。在科南特当选校长后，他依然对先前的事业难以割舍。有人问科南特，为什么以自己的学术生涯换取一个繁重的管理职务，科南特简洁轻快地回答：“我想这是我的一种事业感。”虽然，科南特的决定经过了慎重考虑，但让他放弃自己从少年时期就一直喜爱的化学，他仍然感觉相当痛苦，平时他努力克制自己的情绪，“一次，送交化学5(Chemistry 5)的最后一个讲义后，他走回家，关上前门，再也无法控制肆意流淌的泪水”。割舍了心爱的化学如同失去了臂膀，又好像与爱人分离一样的痛。当选校长后，科南特在给姐姐的信中写道：“结束充满乐趣的科学研究生活，为此我哭过多次，但却不能拒绝这一挑战(当选哈佛校长)……愿上帝保佑我!”①上任第一年，科南特接受学生邀请，参加新生茶话会，一位本科生直截了当地问他，为什么在创造的巅峰时期放弃科学研究而成为一名大学管理者。据这个学生后来回忆，科南特如此回答：“除了哈佛大学校长一职外，我决然不会放弃科学生涯，因别的任何事物都不会对我有那么大的吸引力，能使我离开实验室与学生。对哈佛强烈的爱和对学院、大学的无私奉献使我得以充分发挥自己的创造能力。”①