Фамилия Карый — один из тех случаев, когда прозвище перешло в фамилию без изменений, минуя типичные суффиксы -ов, -ин или -ский. Это так называемая «неоформленная» фамилия, которая в русской традиции встречается реже, чем в украинской или белорусской. Она целиком совпадает с исходным прилагательным «карий» — «темно-коричневый, каштановый».

Слово «карий» — старый тюркизм, восходящий к корню kara («чёрный»). В русских говорах оно закрепилось именно за цветом глаз и масти лошадей, тогда как для других предметов использовали «коричневый» или «бурый». Поэтому прозвище Карый в первую очередь давали человеку с выразительными карими глазами — внешняя примета, которая бросалась в глаза и легко запоминалась соседями.

Важная деталь: в отличие от фамилий, образованных через суффикс принадлежности (-ов/-ев), форма Карый не указывает на родство («чей?»), а прямо называет самого человека. Это говорит о том, что фамилия могла закрепиться в среде, где патронимическая модель была необязательна — например, у казаков или в западнорусских землях, где «прозвищные» фамилии без суффикса встречаются чаще.

Встречаются и другие толкования: в южных и западных диалектах «карый» могло означать не только цвет глаз, но и смуглый цвет лица или тёмные волосы. Однако основная версия — указание на красивый, заметный разрез и цвет глаз — остаётся самой убедительной. Фамилия недвусмысленно говорит о внешности предка, без намёка на профессию или место жительства.