Фамилия Херуимский — редкий случай, когда основа заставляет задуматься о происхождении раньше, чем суффикс. С первого взгляда кажется, что корень «херуим» отсылает к библейским херувимам — ангельскому чину. Но в русской ономастике почти нет фамилий, напрямую образованных от названий ангелов через суффикс -им. Обычно такие фамилии (Серафимов, Херувимов) возникали от канонических имён или прозвищ семинаристов. Херуимский же стоит особняком.

Словообразовательная модель указывает на польско-украинское влияние. Суффикс -ский характерен для шляхетских и географических фамилий Речи Посполитой. Основа «Херуим» могла быть топонимом: название села, урочища или речки. В старых польских и западнорусских документах встречаются варианты «Херуим», «Херуйм» — возможно, искажённое «Херувим» в народном произношении. Если так, то фамилия означала «родом из Херуима» — места, названного в честь церкви или иконы Херувимов.

Есть и более прозаичная версия. В некоторых говорах «херуим» или «херуй» могло быть прозвищем человека с ангельским характером или, наоборот, с ироничным подтекстом (как «Херувим» — тихоня). Суффикс -ский в таком случае указывал бы на принадлежность к служилому сословию: «Херуимский» — потомок того, кого прозвали Херуимом.

Третья, менее вероятная гипотеза — связь с тюркским «харун» (араб. «Аарон») через татарское посредничество, но для этого фамилия должна была бы звучать как Харуимский, а не Херуимский. Правдоподобнее всего первая версия: географическое прозвище, закреплённое за шляхтичем или казаком, чей род происходил из местечка с «ангельским» названием. Точных данных о сословной принадлежности носителей фамилии нет, но её форма типична для мелкопоместной шляхты юго-западных губерний Российской империи.