À l'exception de l'abaque ou de la règle à calcul, la première calculatrice mécanique a été inventée par l'inventeur français, Blaise Pascal en 1642. Elle pouvait additionner ou soustraire deux nombres ou diviser et multiplier par répétition, à l'aide de roues dentées.
En 1820, un dispositif d'un brevet déposé en France par Thomas de Colmar, devient la première machine à compter commercialement viable. Le design a été copié par une vingtaine d'entreprises à travers l'Europe. En 1877, la machine à calculer mécanique Grant est née et en 1886, la machine à additionner Burroughs P100 est arrivée. Ce n'est qu'en 1948 qu'une calculatrice de poche a été inventée sous la forme de la calculatrice Curta.
Ce n'est que dans les années 1960 et l'avènement des appareils électroniques que la calculatrice électronique a vu le jour. ANITA (A New Inspiration To Arithmetic/Accounting) a été la première calculatrice de bureau entièrement électrique et a été lancée en 1961. Elle s'est vendue à environ 1 000 $ lors de sa sortie, soit près de 8 000 $ en 2014, après prise en compte de l'inflation. En 1965, l'ELKA 22 a été produite en Bulgarie et a été la première calculatrice au monde à avoir une fonction racine carrée. La fin des calculatrices encombrantes ne s'est produite qu'en 1968, lorsque Texas Instruments a sorti la Cal Tech, la première calculatrice de la taille d'une main qui a imprimé les résultats sur papier.