Фамилия Херумова — редкий случай, когда прозвищное имя почти полностью вытеснило в памяти исходное слово. В основе лежит мужское прозвище Херум. Скорее всего, оно образовано от глагола «херумить» — в русских говорах так говорили о человеке, который делает что-то небрежно, плохо, кое-как, или же о том, кто капризничает, ломается. Слово это звукоподражательное, связанное с фырканьем, недовольным бормотанием. Таким образом, Херумом могли прозвать ворчливого, неаккуратного или привередливого человека. Фамилия закрепилась в женской форме (Херумова) через замужество или по документам, где жену и дочь записывали по мужу.

Суффикс -ов указывает на типичную русскую модель фамилий-притяжательных прилагательных: «чей?» — Херумов, то есть сын, потомок Херума. Форма на -а, а не на -о, встречается реже и может говорить о южнорусском или украинском влиянии, где фамилии на -ов склоняются по женскому роду и в именительном падеже имеют окончание -а. Впрочем, в современной русской традиции это просто стандартное склонение женской фамилии.

Этимологически прозвище Херум не стоит путать с церковным именем Херувим. Это два разных корня: имя восходит к древнееврейскому «керув» (ангел), а прозвище — к чисто русскому диалектному глаголу. Никакой связи с ангельским чином здесь нет, это бытовое, очень земное прозвище.

География фамилии узкая. Основные носители встречаются в южных областях России — в Ростовской, Волгоградской областях, а также в Краснодарском крае. Это совпадает с ареалом распространения глагола «херумить» в донских и кубанских говорах. В центральных и северных регионах фамилия практически не фиксируется.

В дореволюционных документах фамилия могла писаться через «ѣ» (Херумовъ) или с двойной «м» (Херуммовъ) — такие варианты встречаются в метрических книгах XIX века, но основная форма всегда была с одной «м». Современное написание с «о» на конце — результат приведения к стандарту женских фамилий.