Aucune personne en particulier n'a été identifiée comme l'inventeur du xylophone. Les xylophones ont été inventés à la fois en Asie et en Afrique. Quelques preuves suggèrent que l'instrument est originaire d'Indonésie ; cependant, la plupart des experts ne tiennent pas compte des preuves.
Le xylophone remonte au IXe siècle en Asie du Sud-Est. Même si le xylophone existe depuis des milliers d'années, sa première entrée dans un dictionnaire remonte au XIXe siècle. En grec, xylophone signifie "son de bois". Certains xylophones modernes ont des barres métalliques qui sont frappées avec un maillet pour produire du son. Cependant, les versions anciennes étaient en bois.