Le rummikub se joue avec des règles similaires au rami, à l'exception de l'utilisation de tuiles au lieu de cartes. Les joueurs essaient de créer des pistes, composées d'au moins trois tuiles numérotées consécutives de la même couleur, ou des groupes, qui sont au moins trois du même nombre de couleurs différentes.
Une partie de Rummikub commence avec chaque joueur piochant 14 tuiles puis essayant de créer des pistes ou des groupes. Les points sont déterminés par les nombres sur les tuiles, et un joueur doit faire une « fusion » initiale d'une valeur de 50 points ou plus pour commencer à poser des tuiles. Par exemple, un ensemble de quatre, cinq et six bleus vaut 15 points, tandis qu'un ensemble de six orange, bleu et noir vaut 18 points. Un joueur aurait besoin de 13 points supplémentaires pour faire une fusion initiale.
Une fois qu'un joueur a placé sa combinaison de 50 points sur la table, il peut commencer à manipuler et à réorganiser les combinaisons. Les mélanges doivent contenir au moins trois tuiles, mais ils peuvent être brisés pour créer de nouveaux mélanges. Si un joueur ne peut pas ajouter à une fusion (que ce soit la sienne ou celle de ses adversaires), il doit ramasser une tuile et terminer son tour.
Le but du jeu est de se retrouver sans tuiles restantes à jouer.