Фамилия Касткина женская, её мужской вариант — Касткин. В основе лежит прозвище или нецерковное имя Кастка, а оно, скорее всего, образовано от слова «касть». В северных и сибирских говорах «касть» означала пакость, гадость, нечисть, а также скупость или вредность. Человека могли прозвать Касткой за скверный характер, занудство или склонность к пакостям. Встречается и другое значение: «касть» — это испорченная, негодная вещь, отбросы. Тогда прозвище могло закрепиться за неряшливым или небрежным человеком.

Словообразовательная модель простая: суффикс -ин указывает на принадлежность — «чей?» — «сын Кастки». Такие фамилии типичны для северных и центральных областей России, где патронимические формы на -ин широко распространены. В отличие от фамилий на -ов, которые чаще образовывались от полных крестильных имён, «Касткин» произошёл от бытового прозвища.

Географически фамилия редкая. Основной ареал — Вологодская и Архангельская области, а также Кировская область. Встречается единично в Поволжье и на Урале, что связано с миграцией крестьянского населения в XIX веке. В дореволюционных метрических книгах Касткины чаще всего записаны как государственные крестьяне, реже — мещане.

Интересная деталь: в некоторых диалектах слово «касть» имело и более безобидное значение — «мелкая рыбешка», «снеток». В таком случае прозвище Кастка могло достаться рыбаку, промышлявшему мелкой рыбой, или невысокому, худощавому человеку. Эта версия менее популярна, но имеет право на существование, особенно для фамилий из приречных районов Русского Севера.