Фамилия Рафимов — одна из тех, где разбор упирается сразу в два возможных корня, и выбор между ними зависит от того, на какой народ и регион смотреть. По модели образования это типичная русская фамилия на -ов, но основа у неё не славянская, а заимствованная, что сразу указывает на сравнительно позднее происхождение — скорее всего, не раньше XVIII–XIX веков.

Самый прямой путь — от арабского имени Рафим (Рафи́), которое в переводе означает «добрый», «сострадательный», «высокий». В исламской традиции это одно из имён-эпитетов, и оно встречается у татар, башкир, народов Кавказа. Фамилия Рафимов в таком случае — это русифицированная форма отчества: сын Рафима. Суффикс -ов добавили при переходе в русскую документальную систему, когда у татар и горцев стали записывать фамилии по отцу. Поэтому носители Рафимовы чаще всего имеют тюркские или кавказские корни, а географически фамилия заметна в Татарстане, Башкортостане, Дагестане и Чечне.

Есть и вторая версия, менее распространённая, но не лишённая оснований: от еврейского имени Рафаэль через его краткую форму Рафи. В среде ашкеназских евреев на территории Российской империи тоже могли возникнуть фамилии на -ов, особенно после введения обязательных фамилий в начале XIX века. Однако здесь важно уточнение: в еврейской ономастике чаще встречается вариант Рафаилов (от полной формы), а Рафимов — редкий, и его связь с Рафаэлем скорее гипотетическая, чем подтверждённая массовыми записями.

Лингвистически фамилия построена по простой и понятной схеме: основа (личное имя) + патронимический суффикс -ов, который указывает на принадлежность к роду. Никаких редких суффиксов или диалектных черт здесь нет — вся необычность именно в имени-основе. Интересно, что фамилия Рафимов не имеет однозначного славянского аналога: если взять, к примеру, Радимов, то там корень славянский (Радим), а здесь — заимствованный, и это сразу отличает её от массы фамилий на -ов, образованных от крестильных имён вроде Иванов или Петров.

Сословная принадлежность у Рафимовых, скорее всего, недворянская: такие фамилии обычно получали крестьяне, мещане или казаки из нерусских этносов. В дореволюционных метрических книгах Рафимовы встречаются в основном среди мусульманского населения, реже — среди православных, принявших крещение из татар. В советское время фамилия утратила конфессиональную окраску и стала просто родовой.