Rennmäuse haben einen sehr ausgeprägten Geruchssinn. Er ist vor allem wichtig, um andere Gruppenmitglieder zu erkennen. Jede Gruppe hat ihren ganz eigenen Geruch, der auch ihr Territorium prägt. Die Rennmäuse markieren ihre Mitbewohner und ihr Heim mit der sich am Bauch befindlichen Duftdrüse, damit alles den gleichen Geruch hat. Fremde werden sofort erkannt und gnadenlos verjagt oder sogar attackiert. Das gilt nicht nur für Rennmäuse, auch die Hand eines Menschen kann angegriffen werden, beispielsweise, wenn eine andere Seife benutzt wird.

Die Wichtigkeit des Gruppengeruchs ist auch gut zu erkennen, wenn eine Maus für ein paar Minuten aus der Gruppe genommen und dann wieder zurückgesetzt wird. Die zurückgesetzte Maus wird sofort an der Nase und, wenn das nicht reicht, am Hinterteil beschnüffelt. Werden die Rennmäuse für längere Zeit getrennt, erkennen sie das herausgenommene Tier nicht mehr als ein Mitglied der Gruppe und es wird wie ein fremdes verjagt. Dabei ist es egal, ob es sich um eine Familie oder vergesellschaftete Tiere handelt. Aus diesem Grund sollte immer die gesamte Gruppe beisammen bleiben, beispielsweise bei einem Tierarztbesuch.

Eine Rennmausgruppe besitzt eine strenge Rangordnung, die teilweise auch für Menschen ersichtlich ist. Das ranghöchste Tier darf zuerst fressen, den anderen sogar das Futter aus Pfoten oder Maul stehlen, und es weist andere Gruppenmitglieder zurecht.

Im Laufe der Zeit kann sich die Rangordnung innerhalb der Gruppe ändern, beispielsweise, wenn das ranghöchste Tier alt oder krank wird. Außerdem testen junge Rennmäuse gern ihren Platz in der Gruppe aus und versuchen, das Alphatier abzulösen. In der Regel geschieht das mit der Geschlechtsreife oder im sogenannten „Flegelalter“ zwischen sechs Monaten und einem Jahr.

Sichtbar wird Rangordnungsklärung vor allem durch das „Bespringen“ der anderen Rennmäuse, um diese zu markieren. Im schlimmsten Fall kann dies aber in Streitereien oder sogar Beißereien enden und sollte immer gut beobachtet werden.

Untereinander verständigen sich Rennmäuse meist mit Fieptönen, die für das menschliche Ohr oftmals nicht wahrnehmbar sind. Zu hören sind diese Töne aber häufig, wenn die Rennmäuse sich gegenseitig putzen, bei Vergesellschaftungen oder Streitereien.

Auch die Körpersprache spielt eine wichtige Rolle. Untergebene Rennmäuse legen sich vor die ranghöhere, um ihre Unterwerfung auszudrücken – und sich putzen zu lassen. Auch das spielt bei der Vergesellschaftung eine entscheidende Rolle.

Ebenfalls zur Klärung der Rangordnung und vor allem während der Vergesellschaftungsphase zu beobachten ist ein gegenseitiges „Beboxen“: Die Rennmäuse stellen sich dabei auf die Hinterpfoten und „boxen“ sich gegenseitig mit den Vorderpfoten.

Um sich gegenseitig vor Gefahr zu warnen, stellen sich Rennmäuse auf die Vorder- und trommeln mit den Hinterpfoten. Durch die dadurch entstehenden Schwingungen werden andere Rennmäuse gewarnt, um sich verstecken zu können. In Gefangenschaft passiert das häufig, wenn die Tiere in fremder Umgebung sind und sich erschrecken, beispielsweise vor Geräuschen oder ruckartigen Bewegungen.

Das Trommeln wird nicht nur zur Warnung, sondern auch bei der Paarung in der Umwerbungsphase eingesetzt. Das Verhalten bei der Paarung wird in einem anderen Artikel näher erläutert.

Hin und wieder lässt sich bei Rennmäusen das sogenannte Schwanzwedeln beobachten. Dabei stellen sich die Tiere meist auf die Hinterpfoten und verharren ruhig in dieser Position, nur der Schwanz bewegt sich ruckartig von einer Seite zur anderen.
Zu deuten ist dieses Verhalten je nach Situation als positive oder negative Aufregung und angespannte Aufmerksamkeit. Ein blitzschnell hin und her peitschender Schwanz drückt Aggression aus. Zeigt eine Rennmaus, beispielsweise bei einer Vergesellschaftung eine solche Drohgebärde, ist Vorsicht geboten.

Rennmäuse lecken in der Regel die Einrichtung, Terrarienwände oder Hände ab, wenn sie an  Mineralien- oder Salzmangel leiden. Zur Sicherheit sollte die Trinkflasche auf mögliche Funktionsfehler überprüft und gegebenenfalls gereinigt werden. Falls die Flüssigkeitsquelle in der Rennmausunterkunft keine Auffälligkeiten zeigt, die einen vermehrten Durst der Tiere vermuten lassen,  empfiehlt es sich, vorübergehend einen Mineral- oder Salzstein zur Verfügung zu stellen. Es ist darauf zu achten, dass die Tiere einen solchen Stein nicht als Nageersatz nutzen. Daher ist es sinnvoll, den Stein nur unter Beobachtung für ein paar Minuten in das Gehege zu legen. Dies kann, sofern möglich, mehrmals am Tag wiederholt werden.

Des weiteren sollten die Rennmäuse gut beobachtet und ihr Gewicht überprüft werden. Gewichtsverlust oder stark veränderte Verhaltensweisen deuten auf eventuelle Krankheiten hin. In diesem Fall sollte ein Tierarzt aufgesucht werden.

Eine andere Ursache kann in der ungünstigen Zusammenstellung des Rennmausfutters liegen. Um Mangelerscheinungen zu vermeiden, die durch Futter ausgelöst werden, sollte stets auf eine artgerechte Ernährung geachtet werden.

Das gegenseitige Besteigen ist bei Rennmäusen oft zu beobachten. Manche Rennmaushalter sind sich daher unsicher, ob es sich um gleichgeschlechtliche Tiere handelt.
Im Zweifelsfall ist eine erneute Geschlechtsbestimmung bei allen Tieren der Gruppe sinnvoll. Falls die betroffenen Tiere des gleichen Geschlechts sind, dient das beschriebene Verhalten meist zur Klärung der Rangordnung. Bei Weibchen ist das Besteigen auch zu beobachten, wenn sie  in Hitze sind. In beiden Fällen besteht in der Regel kein Grund zur Sorge.

Hitze kommt bei Weibchen ab Beginn der Geschlechtsreife bis ins hohe Alter vor. Das paarungsbereite Weibchen trommelt hierbei leicht mit den Hinterpfoten und drückt das Hinterteil auf den Boden, sobald eine andere Rennmaus in ihre Nähe kommt.
Dieses Verhalten zeigt dem Männchen an, dass das Weibchen zur Paarung bereit ist und soll zum Besteigen animieren. Auch ein anderes Weibchen folgt dieser Aufforderung oft und nimmt so die Rolle des Männchens ein.
Manche paarungsbereite Weibchen heben ihr Hinterteil leicht an, wenn man ihnen über den Rücken streicht.
Das Besteigen zur Klärung der Rangordnung tritt oft bei jungen Rennmäusen auf, die geschlechtsreif werden oder bei Tieren, die gerade vergesellschaftet wurden. Wenn dieses Verhalten auffällig oft auftritt oder zusätzliche Streitereien innerhalb der Gruppe erkennbar werden, ist eine aufmerksamere Beobachtung der Rennmausgruppe empfehlenswert. Bei weiteren Auffälligkeiten sollte eingegriffen werden, indem eine mögliche Ursache des Streits gefunden und Abhilfe geschaffen wird.

Bei einigen männlichen Rennmäusen kann es durch einen zu hohen Testosteronspiegel zu einem gesteigerten Sexualverhalten kommen. Diese Rennmäuse besteigen ihre gleichgeschlechtlichen Gruppenmitglieder sehr häufig und setzen diese dadurch teilweise enormen Stress aus. Das gesteigerte Sexualverhalten kann so stark ausgeprägt sein, dass ein normales Zusammenleben innerhalb der Gruppe kaum möglich ist, weil sich der Besteigende kaum mehr anderen Aktivitäten zuwendet. Eine Behandlung von sexuell überaktiven Rennmausböcken durch eine Hormonspritze ist möglich und kann in so einem Fall große Erleichterung bringen.