Фамилия Алюханов ведет происхождение от составного восточного имени Алихан. Его основа — два корня: «али» и «хан». В арабском языке «али» означает «самый сильный, мощный», а также «высокий, великий, знаменитый». Вторая часть, «хан», изначально обозначала вождя племени, особенно у кочевников Ирана и Афганистана. Таким образом, имя Алихан можно перевести как «великий правитель» или «могучий владыка».

Чередование гласных и/ю в фамилии — результат исторических языковых процессов. В разговорной речи имя Алихан могло произноситься как Алюхан, что и закрепилось в фамилии при ее оформлении. Суффикс -ов указывает на принадлежность: Алюханов буквально означает «сын Алюхана» или «потомок Алюхана».

Фамилия распространена в среде тюркских и кавказских народов, где имя Алихан популярно до сих пор. Предки современных Алюхановых, вероятно, были связаны с военной или административной элитой — учитывая значение «хан», можно предположить, что основатель рода обладал властью или авторитетом в своей общине. Однако со временем фамилия утратила сословную привязку и стала просто родовым именем.