数学是随着天文学与测量术而发展的，它在中国科学中是最完全独立发展的部门。大概在春秋战国时期就产生了数学，如别墨派遗留在《墨经》上的记载，就包含了若干几何学的定义和定理，如（一）平面的定义；（二）等长线段的求法；（三）圆的中心在于距圆周同长的点上；（四）圆至其中心同长；（五）不平行的二直线必相交；（六）正方形四边相等，四角相等等。又别墨派及公孙龙言论中都说过“一尺之棰，日取其半，万世不竭”的话，可以看出表示无限等比级数的概念。

清修《四库全书》时，戴东原所校订的“算经十书”，是现存的最古算书，这十种书是：

（一）《周髀算经》是前汉末至后汉初出现的，相传是周朝的书。

（二）《九章算术》是后汉时代出世的，相传为周公所作，其中载有分数、最大公约数的求法、百分法、开平方、开立方的算法，一次联立方程式的解法。

（三）《海岛算经》是测量术的书籍，著者是魏时的刘徽。刘徽对《九章算术》也作了注解，注解中包含根据几何学而解二次方程的方法，开平方立方之小数计算，圆面积并圆周的算法，角锥体的体积算法等。

（四）《孙子算经》三国末期出现。

（五）《五曹算经》亦三国末期的书。

（六）《夏侯阳算经》南北朝末期的书。

（七）《张邱算经》南北朝末期的书。

（八）《五经算术》北周甄鸾著。

（九）《数术记遗》题名汉徐岳撰，疑是甄鸾伪记。

（十）《辑古算经》相传为唐人王孝通作。

我国圆周率发明很早，前汉末年刘歆即使用过，经过后汉的张衡，魏的刘徽，到南齐祖冲之，乃定圆径比圆周为一一三比三五五，圆周率在三点一四一五九二六与三点一四一五九二七之间，这是五世纪时世界最精密的圆周率。

唐宋间算学没有什么进步。宋元间则有秦九韶的《数学九章》，李治的《测圆海镜》《益古演段》，朱世杰的《算学启蒙》《四元玉鉴》等书。我国很早发明的算木计算法，一直沿用到元代。李治的“天元术”（一元高次方程），朱世杰的“四元术”（四元方程）均用算木代表未知数。这种器械的代数学到明代已不能再发展，于是算盘代替了算木的地位而普及起来。“九九歌诀”也随着出现。

欧洲人利玛窦等，及我国科学开创者徐光启等将欧洲的《几何原本》《八线表》等介绍到中国来，当时并没有为我国算学家所直接采用，到清初，才因这种影响而有符号的代数学之产生，而有梅氏兄弟的历法与算学的专著出现（梅文鼎著书八十余种，包含代数及三角等，开始用笔算演算），清圣祖御制的《律历渊源》和《数理精蕴》也包含欧洲的历学与数学。