Фамилия Костягин входит в обширную группу русских фамилий на -ин, образованных от основ, оканчивающихся на -а или -я. Такая модель указывает на принадлежность: «чей сын?» — «Костягин», то есть сын Костяги.

Самый очевидный источник основы — имя Костяга, которое является просторечной, «домашней» формой церковного имени Константин (от лат. constans — «стойкий, постоянный»). В древнерусском быту такие усечённые формы с суффиксом -яга были обычны: Степан — Степаняга, Иван — Иванюга. Так что первый и главный вариант: Костягины — потомки Константина, которого в семье звали Костягой.

Однако есть и вторая, не менее правдоподобная версия — прозвищная. Слово «кость» в древнерусском языке давало множество производных. Прозвище Костяга могли дать человеку очень худому, «костлявому», с выступающими суставами — такое описание внешности было на Руси распространённым способом прозвищеобразования. Сравните с фамилиями Костяев, Кощеев (от «кощей» — худой, тощий). В этом случае фамилия Костягин напрямую связана с физической характеристикой предка, а не с его крестильным именем.

Интересна и словообразовательная редкость: суффикс -яга в русских фамилиях встречается нечасто. Он характерен скорее для северных и северо-западных говоров (новгородские, псковские земли), где такие формы бытовали активнее. Поэтому у фамилии Костягин может быть отчётливая географическая привязка к Русскому Северу или Поморью, в отличие от более «южных» фамилий на -ов (Костяков, Костеев).