En tant que premier parti politique américain, le Parti fédéraliste a inventé l'expression "Des millions pour notre défense, pas un centime pour un hommage", qui est devenue très populaire à la fin des années 1790. Ceci a été imprimé sur des gravures politiques qui ressemblait au billet d'un dollar.
Le slogan anti-fédéraliste utilisé pendant la campagne électorale de Thomas Jefferson déclarait que l'élection de Jefferson "détruirait la religion, introduirait l'immoralité et desserrerait tous les liens de la société". Le slogan déterminant de Jefferson déclarait : « Nous sommes tous républicains ; nous sommes tous fédéralistes », et il l'a prononcé lors de son discours inaugural. C'est Alexander Hamilton qui a déclaré : « La vigueur du gouvernement est essentielle à la sécurité de la liberté », lorsqu'il a formé le Parti fédéraliste à la fin du XVIIIe siècle.
