Le terme « la Grosse Pomme », en référence à la ville de New York, semble avoir deux origines distinctes. Les deux origines remontent au début du 20e siècle et proviennent toutes deux de l'argot.
La première théorie de l'origine de "la Grosse Pomme" vient du monde des courses de chevaux. Au tournant du 20e siècle, les chevaux ont été courus pour un prix en espèces qui était familièrement connu sous le nom de « la pomme ». Les plus grosses "pommes" du monde des courses étaient les prix décernés pour les courses à New York. Les jockeys et les propriétaires ont commencé à désigner les compétitions de New York comme « la Grosse Pomme ».
Une autre voie possible pour la phrase peut provenir du monde des musiciens de jazz itinérants. À peu près au même moment où "la Grosse Pomme" devenait populaire parmi les fans de courses de chevaux, l'adage "il y a beaucoup de pommes sur un arbre, mais il n'y en a qu'une grosse" a été appliqué aux sites de New York. Contrairement aux représentations dans des salles plus petites à travers le pays, les musiciens en sont venus à considérer une carrière à New York comme un signe de réussite professionnelle.
Quelle que soit l'origine exacte de l'expression, la ville de New York a adopté "la Grosse Pomme" comme désignation officielle en 1971. Cette décision a consolidé l'expression en tant que terme reconnu pour la ville et a contribué à réhabiliter la réputation de New York et à encourager le tourisme.