Фамилия Котыня — редкая и нестандартная по русскому словообразованию. В ней нет привычных фамильных суффиксов -ов, -ин или -ский. Окончание -я указывает, что перед нами, скорее всего, украинская или белорусская модель фамилии, либо прозвище, перешедшее в фамилию без изменений.

Основа «Кот» — одна из самых распространённых в славянских прозвищах. В старину «котом» называли не только домашнее животное, но и человека с определёнными чертами: хитреца, льстеца, умеющего «ластиться» к нужным людям. В некоторых говорах «котыня» могло означать «котище», то есть крупного, вальяжного кота, а прозвище давали человеку медлительному, важному или ленивому.

Однако есть и вторая, менее очевидная версия. «Котыня» могло возникнуть от диалектного слова «коты» — так в южнорусских и украинских областях называли грубую обувь, башмаки. Тогда прозвище Котыня получил бы сапожник или тот, кто носил такую обувь. Эта версия объясняет суффикс -ын-/-ин-, который мог присоединиться к основе «кот-»: «котыня» — «относящийся к котам (обуви)». Но в украинском языке фамилии на -я чаще образуются напрямую от прозвищ, без дополнительных суффиксов.

Географически фамилия Котыня встречается в основном на западе Украины и в приграничных областях Беларуси. В России она редка и может быть результатом поздних миграций. Сословной привязки у фамилии нет: её могли носить и крестьяне, и мещане, и казаки — прозвище не указывает на социальный статус.

Сравните с однокоренными фамилиями: Котенко (украинская, «сын кота»), Котов (русская, «принадлежащий коту»), Котык (польская форма). Котыня стоит особняком — это не патроним и не притяжательное прилагательное, а прямое прозвище, застывшее в именительном падеже. Именно эта особенность делает фамилию ценной для историков языка: она сохранила живую форму народной речи, где прозвище не переделывали под стандартные суффиксы, а оставляли как есть.