Pharell Williams a quatre frères : Caton, Psolomon, Pharaon et David. Pharaon Williams III et David Williams sont ses demi-frères issus du premier mariage de son père avec Vanessa T. Williams. Caton, Psolomon et Pharell ont tous les mêmes père et mère, Pharaoh Williams et Carolyn Williams.
Cato Williams est un skateur professionnel, tandis que David Williams est un vendeur dans le Delaware. Pharell est le fils aîné ; il a 10 ans de plus que Caton et 20 ans de plus que Psolomon. Il a grandi avec ses frères à Virginia Beach, en Virginie. Pharell Williams est marié à Helen Lasichanh et le couple a un fils, Rocket Williams.