Фамилия Каргальский образована не от церковного, а от мирского имени Каргаль. В древнерусской традиции такие имена давали не при крещении, а в быту — чтобы защитить ребёнка или передать ему качества животного или птицы. Слово «каргаль» в некоторых русских говорах означало «большой нырок» (водоплавающая птица). Называя сына Каргалем, родители как бы вверяли его природе, надеясь, что от птицы к нему перейдут ловкость, выносливость или умение нырять.

Суффикс -ский указывает на дворянский или географический тип фамилий, но в данном случае он мог закрепиться и у казаков, и у крестьян — по фамилии Каргальский сложно судить о сословии предка. Важно, что модель на -ский часто означала принадлежность к месту или роду: «сын Каргаля» или «выходец из мест, где жили Каргали». В донских и ростовских краях эта фамилия встречается уже в XIX веке.

Судя по Памятным книгам и Книге памяти Ростовской области, носители фамилии жили на Дону: Василий Павлович Каргальский родился в 1893 году в станице Ефремовской, а Иван Александрович — в 1916 году в станице Ново-Цимлянской. Обе станицы — исторические казачьи поселения, что делает версию о прозвищном происхождении от птицы ещё более естественной: в казачьей среде мирские имена держались долго, а прозвища по птицам и зверям были обычным делом.

Если сравнивать с однокоренными фамилиями — Каргалов, Каргалин, Каргальцев — то Каргальский стоит особняком. Суффикс -ский здесь не «географический» в прямом смысле (не от названия села Каргалы, хотя такие топонимы есть), а скорее патронимический, то есть указывающий на прямого предка по имени Каргаль. Это редкий случай, когда основа осталась прозрачной, а суффикс — дворянского типа, но сама фамилия — народная.