Фамилия Русалимов напрямую связана с древним названием города Иерусалим — Русалим. Так на Руси называли святой город вплоть до позднего средневековья, и именно от этой формы, а не от греческой или современной, и пошло прозвище, а затем и фамилия.

Чаще всего прозвище Русалим закреплялось за человеком, совершившим паломничество к Гробу Господню. Вернувшегося из такого тяжёлого и опасного путешествия односельчане уже не называли иначе — он становился «Русалимом», то есть побывавшим в Иерусалиме. В крестьянской среде, где географические познания были смутными, такое прозвище звучало весомо и выделяло человека среди других.

Впрочем, есть и другая версия. В старину имена, данные в честь святых мест или праздников, не были редкостью. Ребёнка могли наречь Русалимом в честь города, где совершил паломничество его отец или дед, — как своеобразное семейное благословение. В этом случае именование не описывало самого человека, а несло пожелание божественного покровительства.

Сам суффикс -ов в фамилии указывает на типичную модель русских отчеств: Русалим + -ов = «сын Русалима». Это ставит фамилию в один ряд с тысячами других, образованных от личных прозвищ, и говорит о том, что закрепилась она не позднее XVII века, когда такие формы стали массово фиксироваться в документах.

Отдельного внимания заслуживает написание. В современных справочниках фамилию иногда путают с формой «Русалимов» и «Русалимовъ», но в дореволюционных метрических книгах встречается и вариант «Русалимов» с ударением на второй слог, что ближе к исходному слову «Русалим». Сегодня же носители фамилии чаще произносят её с ударением на третий слог, что постепенно стирает связь с первоисточником.