Le nom de famille Rhoumy est très probablement une variation orthographique de "Roumi" (parfois orthographié "Rumi"). Ce terme, d'origine arabe (رومي), est historiquement très riche de sens.

À l'origine, "Roumi" désignait les habitants de l'Empire romain, puis, après la chute de l'Empire romain d'Occident, il fut utilisé par les populations arabes et musulmanes pour désigner les Byzantins (c'est-à-dire les habitants de l'Empire romain d'Orient) et, par extension, les chrétiens d'Europe, ou les Européens en général.

Dans le contexte nord-africain et moyen-oriental, le port du nom "Roumi" ou "Rhoumy" pouvait donc indiquer diverses origines pour l'ancêtre fondateur de la lignée :

• Une origine géographique liée aux territoires de l'ancien Empire romain ou byzantin (par exemple, l'Anatolie, certaines parties du Maghreb, ou l'Europe).
• Un ancêtre qui était d'origine européenne ou chrétienne, ou qui avait des liens significatifs avec des Européens.
• Parfois, il pouvait être associé à des caractéristiques physiques ou culturelles perçues comme "romaines" ou "européennes".

Il est également possible qu'il fasse référence au poète mystique persan, Jalal ad-Din Muhammad Rumi, bien que ce soit moins courant comme origine directe d'un nom de famille en Afrique du Nord.