Фамилия Карая — редкий пример, где окончание не типичный русский суффикс, а застывшая часть основы. В русских фамилиях на -ая (типа Скорняковая, Головастая) ударение обычно падает на последний слог, и они образованы от прилагательных. Карая — иного происхождения: это русифицированная форма грузинской фамилии Карая, где -ая — не окончание, а часть корня. В Грузии фамилии на -ая (Карая, Чхеидзе, Думбадзе) распространены в основном в Западной Грузии, особенно в Имеретии и Гурии. Основа «кара» в грузинском означает «корова, бык» (кара — от груз. ქარა). Таким образом, Карая — «коровник» или «тот, кто имеет отношение к коровам»: пастух, скотник, владелец скота.

В русском контексте фамилия закрепилась без изменений, так как окончание -ая совпало с привычным русским флективным окончанием прилагательных женского рода. Но в отличие от русских фамилий (например, Косолапая или Рыжая), где склонение меняется по падежам, Карая в русском языке часто не склоняется или склоняется как грузинская фамилия (Карая, Караи, Карае).

Встречается фамилия и у армян, где «кара» означает «камень», и Карая могло бы значить «каменщик» или «каменистый». Но для армянских фамилий типичнее суффиксы -ян, -янц, поэтому версия с грузинским корнем убедительнее. В осетинском «кара» — «черный», но фамилия Карая там не зафиксирована как массовая.

Носители фамилии Карая в России — это в основном потомки грузин, переселившихся в XIX–XX веках, или обрусевшие ветви грузинских родов. Встречается она в Краснодарском крае, Ростовской области, Москве. Среди известных Карая — грузинский футболист, но в целом фамилия нечастотная: в России её носит, по разным оценкам, не более нескольких сотен человек.