J.P. Morgan a acheté et collectionné des œuvres d'art d'une valeur égale à environ les deux tiers de sa succession, soit 900 millions de dollars aujourd'hui. Une grande partie de l'art qu'il a acheté a été obtenue au cours des deux dernières décennies de sa vie. Après sa mort, son fils, J.P. Morgan Jr., a fait don d'une grande partie de la collection de son père au Metropolitan Museum of Art.
J.P. Morgan aimait particulièrement l'art islamique et d'autres objets islamiques tels que les tapis, les panneaux de tuiles ottomanes et le verre émaillé. Il possédait également une vaste collection de supports, composée de livres imprimés et de manuscrits. Avant sa mort, J.P. Morgan aurait déclaré : "Aucun prix n'est trop élevé pour un objet d'une beauté incontestée et d'une authenticité connue."