Les règles principales du Rummikub sont centrées sur le regroupement des tuiles colorées et numérotées en groupes d'au moins trois. Pour être qualifiées d'« ensemble » ou de groupe, les tuiles peuvent avoir toutes le même numéro et des couleurs différentes ou ils peuvent être tous de la même couleur et numériquement dans une rangée.
Rummikub est livré avec des supports spéciaux sur lesquels les joueurs peuvent aligner leurs tuiles. Pour commencer le jeu, toutes les tuiles doivent être face cachée. Il est préférable de les mettre de côté afin de laisser un grand espace vide au milieu pour le jeu. Chaque joueur sélectionne quatorze tuiles et les place sur son stand de tuiles. Pour commencer à jouer, un joueur doit être capable de déposer un total de trente points, déterminé en ajoutant simplement la valeur des nombres sur les tuiles jouées. Chaque ensemble ou groupe doit avoir un minimum de 3 tuiles, partageant le même numéro ou la même couleur (avec des numéros dans une rangée) comme décrit ci-dessus. Après avoir déposé leurs ensembles, les joueurs terminent chaque tour en ramassant une nouvelle tuile de la pile face cachée. Les points peuvent être comptés tout au long du jeu, mais le gagnant est la personne qui manque de tuiles en premier. Il y a aussi deux "jokers" qui peuvent être joués avec n'importe quel nombre ou couleur. Pendant le jeu, les joueurs peuvent déplacer des ensembles, en empruntant à un jeu précédent ou en y ajoutant. Cependant, lorsque les tuiles sont déplacées, chaque groupe doit continuer à avoir un minimum de 3 tuiles.