Der Ort Rommelshausen wurde wohl in der Merowingerzeit gegründet und 1146 in einer Schenkungsurkunde König Konrads II erstmals als "Rumoldeshusen" erwähnt. Dort unterzeichnete neben den Herren von Plochingen und dem Grafen von Württemberg auch Wortwin de Rumoldeshusen als Urkundenzeuge. Im Laufe der Zeit hat sich der Name immer wieder geändert. Neben „Rumoldeshusen“ wird der Ort auch „Rummeltzhausen“, „Rumelshusen“ oder „Rommeltzhausen“ genannt; 1686 taucht erstmals der heutige Name „Rommelshausen“ auf.
Bereits um 1300 wurde der Ort, ehemals Besitz der Teck´schen Grafen, württembergisch.
1525 bestand der Ort bereits aus 14 Lehenhöfen. Daraus entwickelte sich in den vergangenen Jahrhunderten der gegenwärtige gewachsene Ortskern. Heute sind der Schafhof und der Glockenhof noch erhalten. Mitte des 16. Jahrhunderts lebten in Rommelshausen etwa 1.000 Menschen, Ende des 2. Weltkrieges zählte der Ort bereits 2.300 Einwohner. Im Zuge der Ansiedlung von Vertriebenen und dem parallelen wirtschaftlichen Aufschwung stieg die Einwohnerzahl bis heute auf mehr als 9.000 an.
Im Zuge der Gemeindereform im Jahr 1975 wurden die beiden selbständigen Orte Rommelshausen und Stetten zur Gesamtgemeinde Kernen im Remstal zusammengeschlossen.
Heute ist der Kernener Ortsteil Rommelshausen (kurz „Rom“) Standort zahlreicher erfolgreicher klein- und mittelständischer Betriebe aus Industrie, Handwerk, Landwirtschaft und Weinbau. Ein guter Einzelhandelsbranchenmix, verschiedene Cafés und Gaststätten sorgen für urbanes Flair und eine belebte Ortsmitte.