Les historiens pensent que les instruments de type harpe sont apparus dans l'Égypte ancienne vers 3000 av. puis sont apparues sous leur forme angulaire moderne en Asie vers 1500 av. Cependant, les Asiatiques ont affiné la forme de la harpe en ajoutant une caisse de résonance et un pilier solide pour le soutenir.
Les premières harpes comportaient de longs et fins brins fabriqués à partir de matériaux organiques tels que des fibres végétales. Les harpes variaient dans le style et même la position de jeu selon la région d'origine. Dans de nombreuses régions de Grèce et de Rome, les harpes existaient en tant qu'instruments verticaux et les joueurs pinçaient leurs cordes à deux mains. Dans la région mésopotamienne, cependant, les harpes existaient en tant qu'instruments horizontaux. Les joueurs plaçaient les harpes sur leurs genoux et utilisaient des médiators pour pincer les cordes.
Les harpes comptent parmi les instruments les plus anciens au monde. Ils étaient largement utilisés dans l'Egypte ancienne et en Asie. Les harpes ont migré ailleurs, jouissant d'une brève popularité en Inde et au Moyen-Orient avant de disparaître soudainement. Les harpes réapparurent cependant en Europe au cours du IXe siècle. Leur forme a légèrement changé par rapport aux versions précédentes, fortement influencée par le look gothique. Les harpes gothiques comportaient des cous allongés et des torses élancés pour un look élégant. Les harpes chromatiques sont apparues au XVIe siècle, apparaissant comme des instruments à deux ou trois rangées de cordes.