算盘作为会计记账工具约有1800年历史，在这上千年中一直是从事会计工作的必须装备和基本功，直到20世纪末会计电算化兴起才慢慢消失。以至于过去甚至现在，依然有人认为“会计就是打算盘的”。但其实，当然不是只会“打算盘”那么简单，就好像“写书”不是只要会“打字”就行一样。现在的大学里已很少要求学生学算盘了，绝大多数都改成了会计信息系统课和实验课，会计职称考试也不用打算盘了，2013年12月4日珠算更被列为世界非物质文化遗产。这些，都是时代发展的必然。

最早时，原始人使用的计算工具是小木棍，称之为“算筹”；用算筹为工具进行计算叫“筹算”；后来在算筹基础上，出现了算板。

民间传说，算盘是三国时期的关羽发明的。这好像有点不可思议，但听完了又觉得好像有点道理。说是关羽长有一脸好胡须，人称“美髯公”，但他也有烦恼，那就是冬天会掉胡须，所以曹操便给了他一副特制的纱棉囊，让他冬天把胡须罩起来，不让它掉得到处都是。而其实呢，关羽最大的烦恼是，他是为保护刘备的妻小才投靠曹操的，总想着要离开曹操；可是曹操对他又这么好，这让他十分为难。为此，他便把曹操对他的各种赏赐都记录在一个日记本上，以便将来一一奉还。这样的小心思当然不便交给曹操派来的人去做，所以他便借鉴当时已有的算板，简化后发明了算盘。

算盘最早出现的文献记录是东汉末年徐岳所撰《数术记遗》。而巧合的是，徐岳与关羽都死于220年，因此，大约在那个时候就应该有算盘并且开始投入实际使用了。

算盘的结构非常简单，又便于携带，计算速度快，所以很快就得到大规模流传，并被改制成位数、珠数、形状、材质不同的样式。例如：位数有9位（档）、11位、13位的，珠数有7珠、5珠、9珠的，形状有长方形、弧形的，材质有木质、骨质、银质、金质（近代还有塑料）的，等等。

开始时，算盘只能用于加减法计算，后来才开发出乘除法以及开方计算；拨打算盘的指法则有三指法和两指法，前者主要用于7珠算盘，后者主要用于5珠算盘。尤其是珠算（即用算盘计算）有了对应的四则运算法则（简称珠算法则）后，计算速度更快了，熟练运算后速度并不逊于现在的计算器，特别是在加减运算方面。所以，在电脑普及之前，算盘成为中国商家最普遍使用的计算工具。

宋代时算盘的运用已经得到广泛普及。北宋名画《清明上河图》中，赵太丞家药铺柜上就赫然放着一把现代的那种15档串档算盘。

明代时，程大位在1593年出版了以珠算应用为主的算书《直指算法统宗》。全书共分17卷、595个应用题；这些题目虽然来自其他算书，但在该书中都采用了用珠算来进行计算，书中并且最早提出了开平方和开立方的珠算法。

新中国成立后，算盘还用在了原子弹的研发上。当时中国只有一台计算机，所以大量的运算只能靠手摇计算机和算盘来完成。而其实，美国在1945年研制成功原子弹时计算机还没出现，大量计算都是靠算盘完成的。

顺便一提的是，算盘并不是中国独有，其他文明古国也都有过各自与算盘相似的计算工具，如在桌面、石板等平板上铺上细沙后用木棍写字计算的沙盘类算具，中世纪古希腊在沙盘基础上放置小石子用以计数和计算的算板类算具，中国、日本、俄罗斯的穿珠算盘，等等。在这其中，中国的珠算技术是最先进的。