La définition de base d'un composé inorganique est toute substance dans laquelle deux ou plusieurs éléments, autres que le carbone, se combinent. Les composés contenant du carbone sont généralement classés comme organiques, à l'exception des carbures, carbonates et cyanures, rendant la distinction entre les composés organiques et inorganiques un peu obscure dans certaines situations.
L'Union internationale de chimie pure et appliquée établit des définitions pour les termes chimiques. Bien qu'elle soit chargée de cette tâche, l'Union n'a pas encore défini les termes « composés inorganiques » ou « composés organiques ». Certaines disciplines scientifiques définissent les composés inorganiques comme non vivants et les composés organiques comme vivants. L'eau est un excellent exemple de composé inorganique.