指南针的原型“司南”早在战国时期便诞生了，但是其真正的演变和运用却是在宋朝。宋人先是发现，如果用钢铁在磁石上摩擦，那么钢铁也会产生磁性，而且这种磁性比较稳定，不会轻易消失，人们用这种人造磁器制造了“指南鱼”。“指南鱼”用起来比司南要方便很多，它不需要光滑的地盘(12)，只需要一碗水就可以了。其弊端在于如果没有水，便无法制出指南鱼，如果有风的话，也会影响它的工作。后来一位炼丹师又对指南鱼进行了改造，发明了指南针。

指南针的改进大大促进了宋朝航海业的发展，依靠着先进的指南工具以及精良的航海工具，宋朝船只东边到达了日本，南边到达了南洋，西边可以到达非洲，一举跃升为当时的海上贸易大国。后来指南针的技术经由阿拉伯人传往欧洲，为欧洲的航海历史注入了新的活力。

此外，沈括在《梦溪笔谈》中还记载，指南针的指示并非正南，而是稍稍偏东五度，这个记载是最早对磁偏角的记载，这一发现相较于哥伦比亚发现磁偏角的经历足足早了四百年。