Фамилия Рафаев образована от личного имени Рафай — разговорной формы канонического имени Рафаил. В переводе с древнееврейского Рафаил означает «Бог исцелил» или «исцеление Божье». Имя это в православных святцах есть, но встречалось реже, чем, скажем, Иван или Пётр, поэтому и фамилий на его основе немного. А вот в среде горских евреев и народов Кавказа, особенно у татов и лезгин, имя Рафаил в форме Рафай было распространено шире — отсюда и заметная доля носителей фамилии Рафаев в Дагестане, Чечне и Азербайджане.

Модель образования типична для русских фамилий: суффикс -ев указывает на принадлежность — «сын Рафая». Твердый согласный в основе дал бы -ов, но «й» смягчается, и появляется -ев. По этой же схеме сложились фамилии Андреев (от Андрей), Тимофеев (от Тимофей) и Матвеев (от Матвей). То есть с точки зрения словообразования Рафаев — фамилия вполне классическая, хотя основа не славянская, а библейская.

Встречается и другой вариант написания — Рафаев с ударением на последний слог, что характерно для кавказского произношения. В русской среде ударение чаще ставят на второй слог — Рафа́ев. В документах XIX — начала XX века фамилия записывалась устойчиво, без разночтений, так как имя Рафаил и его производные были хорошо знакомы церковным писцам.

Географически фамилия Рафаев не имеет одного «родового гнезда». В центральных областях России она редка, зато заметна в Ростовской области и Ставропольском крае — регионах, куда в XIX веке переселялись кавказские народы. Есть Рафаевы и среди потомков горских евреев, живших в Дербенте и Нальчике. По сословной принадлежности предки могли быть как крестьянами, так и ремесленниками или торговцами — имя не даёт подсказки о социальном статусе, но сама редкость фамилии говорит о том, что родоначальник был человеком заметным в своей общине, раз прозвище по имени закрепилось за потомками.