Фамилия Хамская — редкий случай, где прямое значение слова («грубый, наглый человек») почти наверняка не имеет отношения к характеру предка. В русской ономастике прозвища по отрицательным чертам давали редко (скорее иронично, «в противовес»), но здесь корень другой.

Фамилия образована от прозвища Хам, а оно — от арабского имени Хамза. В исламской традиции Хамза ибн Абд аль-Мутталиб — дядя пророка Мухаммеда, уважаемый герой. Имя через тюркское посредство (у татар, башкир) попало в русскую среду, где исказилось до «Хам» — так же, как «Хамза» превращалось в фамилии Хамзин, Хамзиев. Суффикс -ск- указывает на географическую или дворянскую модель: фамилии на -ский/-цкий в XVI–XVII веках часто получали выходцы из шляхты (польско-литовские земли) или духовенство. Впрочем, для крестьян и мещан это тоже встречалось, если прозвище было устойчивым.

Менее вероятная версия — от топонима. В России есть несколько урочищ и хуторов с названием Хамское (например, в бывшей Воронежской губернии). Тогда Хамская — «выходец из местности Хамское». Но документальных подтверждений массового бытования такого названия нет.

Таким образом, фамилия Хамская, скорее всего, несёт в себе искажённое арабское имя с героическим подтекстом, а не намёк на дурной нрав. Носители её встречаются в Поволжье и на юге России — там, где сильны тюркские и исламские влияния.