1914年，陶行知以优异的成绩毕业，赴美国留学，先入伊利诺伊大学攻读市政学，第二年，获政治学硕士学位。次年，又入哥伦比亚大学教育学院，师从哲学家、教育家约翰·杜威，杜威“教育即生活，学校即社会”的观点，对他影响很大。

1917年8月，应南京高等师范学校校长郭秉文之聘，他提前回国，在南京高师主讲教育学、教育行政、教育史、教育心理等。次年3月，任南京高等师范学校教务长；5月，南京高师成立教育专修科，他出任教育科主任。

1919年，他与刘伯明等组织南京学界联合会筹备会；同年，当选为会长；作为南京高师代表参与新教育改进社、《新教育》月刊。2月，他发表《教学合一》，并在南京高师把“教授法”改为“教学法”，不久被全国教育界采用；4月，他发表《第一流的教育家》，率先提出创造精神的教育思想。

1920年夏天，他在南京高师举办第一次暑期学校，为我国高等学校开办暑期学校之始；1921年，他参加组织实际教育调查社；11月，从事全国教育联合会“中国新学制”起草工作。

从此，他开始了富于创意而又艰辛的教育生涯。

1922年2月，他出任中华教育改进社主任干事，同年任中华教育改进社机关刊物《新教育》主编；次年7月，致函国立东南大学(前南京高等师范学校)代理校长刘伯明，辞别东南大学，专任中华教育改进社总干事；参与发起成立中华平民教育促进会；被安徽旅宁同乡会、同学会所办南京安徽公学推为校长；先后谢绝被聘任为国立武汉大学(武昌高等师范学校)校长、金陵大学校长的邀请，专事中华教育改进社工作，促进平民教育运动。

1923年，他与晏阳初等人发起成立了中华平民教育促进会总会，编写《平民千字课》一书，书编成后，他就拿上书到北京、南京的平民学校中试用，结果很满意。他把《平民千字课》一书，送到平民百姓家里，劝家家户户都要识字读书。后来，他还自费奔波于全国十几个省市，开办平民识字读书处和平民学校，推动平民教育运动。

1926年，在其创办的明陵小学召开的中华教育改进社第一次乡村教育联合研究会上，他宣读《我们的信条》，提倡“生活教育”。

他开展平民教育运动的活动经费，多数都是自己写书得到的稿费。

有一次，他得到了1万多元稿费，拿回家锁在柜子里，承担着所有家务的妹妹看见了，问他：“家里有老有小，钱也不多，能不能留1/4给家里用？”

他想了想，温和地回应说：“我要去南京劳山脚下办晓庄师范，这钱要作为办学的经费。我们家虽穷，粗茶淡饭还能维持。中国34000万农民，不但没有饭吃，更没有文化。用这钱去办学校，是为农民烧心香，是尽我们的绵薄之力去帮助他们。你在家里省着点用，算是帮我去办大事吧！”妹妹理解了自己的哥哥，默默地对哥哥点了点头。

为了唤醒民众，改良社会，挽救国家，他以极大的热情奔走于祖国的大江南北，宣传、组织、提倡、推动了这个平民教育运动。

他还把《平民千字课》一书，拿回家里试用。当时，家里7口人：母亲、妻子、妹妹和桃红、小桃、三桃3个儿子，母亲已年过半百，妻子和妹妹初通文字，桃红8岁上学，小桃和三桃分别为5岁、4岁，没到入学年龄。

大儿子桃红很喜欢这本书，每天都要读一会儿，一天，弟弟小桃也被哥哥吸引了，遂坐在哥哥旁边一起读书，哥哥读一课弟弟也读一课……

他母亲操劳了大半生，没有机会读书，他也送了一本《平民千字课》给母亲，母亲笑着对儿子说：“我又不识字，你送我书做什么？”他看着母亲，笑着回应说：“教母亲读书啊！”母亲说：“我都57岁了，还能读书？”他笃定地说：“能！”

他又动员妹妹教母亲识字，后来桃红和小桃也成了祖母的小先生。

当陶母读了16天《平民千字课》时，他正在张家口推广平民教育。他就用16课里的字，给母亲写了一封信，母亲居然全都读懂了。他听说这事后，高兴得不得了，即兴赋诗《慈母读书图》。

而令他更高兴的是，他从女儿教母亲、孙子教祖母、哥哥教弟弟这件事上，得到启发，总结出了连环教学法。给妹妹的信中更是激动地说：“最近，我足迹所到的地方，就是平民教育所到的地方。店里、家里、学校、旅馆里、私塾里、甚至于和尚庙里，我都去劝平民教育，并且很有灵验，很有乐趣。我过几天还要到军队里、工厂里、清洁堂里、监狱里去推广平民教育。”

他推广平民教育，连佣人、车夫、厨师都不放过，一应教育。从1926年发表《中华教育改进社改造全国乡村教育宣言》起，他就设想要以教育为主要手段，来改善人民的生活。