Фамилия Альхимова — женская форма, мужская — Альхимов. В основе фамилии лежит крестильное имя Альхим, которое представляет собой народную переделку канонического имени Евфимий (греч. «благочестивый», «благодушный»). В русских говорах имя Евфимий упрощалось до форм Ефим, Офим, а в диалектах с аканьем (на юге и в средней полосе) — до Афим, Альхим. Фамилия образована по типичной модели с суффиксом -ов, который указывает на принадлежность: «чей?» — Альхимов, то есть сын или потомок Альхима.

Редкость фамилии в том, что она сохранила начальное «Аль-» вместо более привычного «Е-» или «О-». Такая форма могла закрепиться в местности, где аканье было сильным, а имя Альхим воспринималось как самостоятельное, а не искажённое. В документах XVII–XVIII веков встречаются крестьяне и посадские люди с именем Альхимко (уменьшительное от Альхим), что подтверждает его бытование в простонародной среде.

Словообразовательно фамилия стоит в одном ряду с Альхименко, Альхимович, Альхимовский, но все они редки. Если сравнивать с однокоренными, то самая массовая — Ефимов, а Альхимова — её диалектный вариант, застывший в написании. Географически фамилия тяготеет к южнорусским и среднерусским областям, где аканье было нормой, но точных данных о концентрации носителей нет.

Версия о связи фамилии с арабским «аль-хим» (защита) или тюркскими корнями маловероятна: русская ономастика знает немало случаев переосмысления греческих имён в народной речи, и Альхим — один из таких примеров. Прозвищного значения у фамилии не было: она указывала на имя предка, а не на его занятие или характер.