L'os spongieux ne possède pas les unités fonctionnelles en forme de tube appelées ostéons que l'on trouve dans l'os compact. Les ostéons sont formés d'un réseau de petits canaux ainsi que de cellules ostéocytaires alignées en anneaux autour des canaux. Ils sont chargés de fournir un canal pour les vaisseaux sanguins, les veines et les nerfs.
L'os spongieux est constitué d'un réseau de feuilles et de pointes d'os de forme irrégulière. Il est moins dense et plus souple que l'os compact, réduisant le poids du squelette. Bien qu'il ressemble à une éponge de cuisine au microscope, l'os spongieux est solide et dur. Selon l'âge de la personne, l'os spongieux contient de la moelle rouge ou jaune.