陶行知的祖上，原籍在浙江绍兴府会稽县陶家堰；后来，迁居到安徽古溪；不久，又移居古城徽州歙县西乡黄潭源村。他的父亲名位朝，字槐卿，接管祖上一片酱园，后因经济萧条，破产倒闭了。从此，家道中落。

他从小就聪敏过人。6岁时，在邻居家厅堂玩耍，看见厅堂墙上挂着对联，就坐在地上，舞棍画地，临摹起来，被邻村秀才方庶咸看见，惊为神童，免费为其开蒙。

后来，他又入家乡蒙童馆，在吴尔宽处就读。

15岁时，母亲在歙县一所教会中学“崇一学堂”帮佣，他经常去帮助母亲做些事情，被学校校长、英国人唐敬贤看中，让他免费读书。

就这样，他进了教会学校。心情激**下，他就在宿舍墙上挥笔写下——我是一个中国人，应该为中国做出一些贡献来！这看似平淡的豪言壮语，却抒发了他的满腔爱国热情。

在这里，他用两年的时间就学完了三年的课程，并以优异的成绩毕业。

1908年，17岁的他考入了杭州广济医学堂。本想通过学医，解除广大劳动人民的病痛，实现自己的报国志向。然而，由于这所教会学校歧视没有入教的学生，他不愿受外国人摆布，入学仅三天，就愤然退学。

1909年，他考入美以美会在南京办的汇文书院博习馆(即预科)。次年，汇文书院合并宏育书院更名金陵大学(1952年并入南京大学)，他就从汇文书院预科升入金陵大学文科。

他在金陵大学期间，主编了中文版校刊《金陵光》，并在此校刊上写出《金陵光出版之宣言》一文，号召全校同学努力学习和工作，发出自己的光和热，报效祖国，“使中华放大光明于世界”。

1914年，他以总分第一名的成绩毕业。他在毕业论文《共和精义》中写道：“人民贫，非教育莫与富之；人民愚，非教育莫与智之；党见，非教育不除；精忠，非教育不出。”

他那时就已经深刻地认识到了教育在提高人民素质和促进国家发展中的作用。在金陵大学期间，明代哲学家王阳明的“知行合一”学说，深深地震撼了他，他从中悟出了学习与实践相结合的道理，立即给自己取名“知行”。

1934年，他在《生活教育》上发表《行知行》一文，认为“行是知之始，知是行之成”，进而又给自己更名为陶行知。