Основой фамилии Каргальский послужило мирское имя Каргаль. Мирское имя Каргаль берет начало от аналогичного нарицательного со значением «птица большой нырок». Давая младенцу такое имя, как Каргаль, родители хотели, чтобы природа воспринимала ребенка как своего, чтобы к нему перешли те полезные качества, которыми наделено это животное. Таким образом, потомок человека, обладающего именем Каргаль, со временем получил фамилию Каргальский. Представители фамилии Каргальских внесены в некоторые Памятные книги. Так, например, в Книге памяти Ростовской области упоминаются Василий Павлович Каргальский, родившийся в 1893 году в ст.Ефремовская Донской области, Иван Александрович Каргальский, родившийся в 1916 году в ст.Ново-Цимлянская Цимлянского района Ростовской области.