Фамилия Рохмистова — женская форма фамилии Рохмистов, и её ключ к разгадке лежит в слове, которое сегодня почти вышло из обихода. В основе — «рохмистр», искажённое «ротмистр» (от нем. Rittmeister — «господин всадников»). Так в русской армии до 1917 года называли офицерский чин в кавалерии, соответствовавший капитану в пехоте. В народной речи «рот» легко переходило в «рох» — пример такого же фонетического сдвига можно увидеть в фамилиях Рохлин (от еврейского имени) или Роханов, где «рох» бытовало как просторечная форма имени Ерофей.

Однако связь с военным чином не единственная и не всегда прямая. В южнорусских и украинских говорах «рохмистр» могло стать прозвищем для человека важного, солидного или, наоборот, того, кто любил покрасоваться и прихвастнуть. В этом случае фамилия — не указание на реальную службу предка, а характеристика его поведения или внешности. Суффикс -ов (в женском роде -ова) типичен для русских фамилий, образованных от прозвищ или названий чинов, и указывает на принадлежность: «сын Рохмистра» или «из семьи Рохмистрова».

Фамилия встречается преимущественно в центральных и южных областях России, особенно в Курской, Воронежской и Ростовской областях, что косвенно подтверждает её связь с вольными казачьими и однодворческими традициями, где военная терминология была в ходу. Редкость фамилии объясняется тем, что «ротмистр» — чин сравнительно узкий, а его народная форма не закрепилась в официальном делопроизводстве так широко, как, скажем, «Солдатов» или «Капралов».

Встречаются также варианты Рохмистров и Рохмистеров — последний ближе к немецкому произношению. В любом случае, носительница фамилии Рохмистова может с уверенностью говорить, что её предки либо имели отношение к кавалерийской службе, либо получили прозвище, отражавшее их заметное положение в общине.