Le graphite est utilisé dans les crayons en raison de sa capacité à laisser des marques grises sur le papier. On pensait à l'origine qu'il s'agissait d'une forme de mine.
Malgré leur nom, les crayons à mine ne contiennent pas de plomb. Pendant l'Empire romain, des tiges de plomb étaient utilisées pour écrire sur du papyrus. Au XVIe siècle, un important gisement de graphite a été découvert en Angleterre ; peu de temps après cette découverte, le graphite est devenu un matériau couramment utilisé pour l'écriture. On pensait à l'origine qu'il s'agissait d'une forme de plomb plus sombre et a donc reçu le nom de "Blacklead" ou "plumbagoi".
À la fin des années 1700, un chimiste suédois a déterminé que le graphite était une forme de carbone plutôt que de plomb. Le nom de la substance a rapidement été changé en graphite, d'après le mot grec signifiant « écrire ».
L'encre était couramment utilisée pour l'écriture - appliquée à l'aide d'un appareil appelé « peniculus » – dont le mot « crayon » est dérivé. Les premières formes de crayons impliquaient une tige de graphite enveloppée dans une ficelle et insérée dans des bâtons creux. Finalement, un mélange de graphite et d'argile a été développé, éliminant le besoin de corde et produisant une substance plus dure qui pouvait facilement être insérée dans des tiges creuses. La modification du rapport graphite/argile produit des variations dans l'obscurité des marques faites par le crayon. L'ajout d'autres matériaux tels que la teinture, la cire, l'eau ou le charbon de bois peut produire des crayons utilisés à d'autres fins, y compris les cosmétiques et l'art.