Фамилия Рабалданов — редкий случай, когда основа прозвища почти стёрта, а суффикс указывает на позднее, книжное оформление. Это не типичная «крестьянская» фамилия на -ов, а скорее искусственное образование, которое могло появиться в среде духовенства или приказных людей.

Корень «рабалд-» не имеет прямых параллелей в русской лексике. Самое вероятное объяснение — искажённое или переосмысленное «рабат» (араб. укреплённый монастырь, караван-сарай) либо «рабарбар» (перс. «дорога»), но на русской почве эти слова не прижились. Гораздо правдоподобнее версия, что Рабалданов — это фонетический вариант фамилии Рабалдовский или Рабальдов, образованной от прозвища Рабалда. В говорах юго-западных областей «рабалда» означало нерасторопного, неуклюжего человека (ср. «раба» — тяжело работать, «балда» — болван). Прозвище могли дать медлительному или, наоборот, суетливому, но бестолковому работнику.

Суффикс -анов необычен: стандартная модель — Рабалдов (от прозвища на -а) или Рабалдин (от основы на -а). Форма на -анов могла возникнуть под влиянием украинской или белорусской традиции, где фамилии на -анов встречаются чаще (Барабанов, Кабанов), или как результат канцелярской ошибки при записи: писарь переделал незнакомое «Рабалдов» в более привычное «Рабалданов». В пользу этого говорит и редкость фамилии — она почти не встречается в центральных губерниях, но единичные записи есть в бывших черниговских и смоленских землях.

Носители фамилии, скорее всего, происходили из непривилегированных сословий: однодворцы, казаки или государственные крестьяне. Дворянских родов с такой фамилией не зафиксировано. В XX веке Рабалдановы встречаются в основном на юге России и в Казахстане — возможно, это следствие переселенческой политики или миграции в советское время.