Фамилия Карачий — редкий случай, когда прозвище стало фамилией почти без изменений, сохранив исходную форму. В основе лежит тюркское слово «карач» — «черный человек». Скорее всего, так в степи называли темноволосого или смуглого мужчину, и это прозвище закрепилось за ним и его потомками. Тюркский след в фамилии — самый прямой и вероятный: слово «кара» («черный») встречается во многих тюркских языках и часто ложится в основу прозвищ по внешности.

Другая версия отсылает к украинскому диалектному «карачi» — «густой кустарник». Если принять её, то Карачием могли прозвать человека, жившего у зарослей, или выходца из села с похожим названием. Эта гипотеза слабее: фамилия не имеет типичных украинских суффиксов (-енко, -ук, -чук) и не привязана к известным топонимам.

Менее всего убедительна связь с русским глаголом «карачить» — «отступать назад, ломаться, не соглашаться» (зафиксирован в словаре Даля). Если бы прозвище пошло от него, оно, скорее всего, имело бы суффикс -а, -ло или -ун: Карача, Карачило, Карачун. Форма Карачий для такого значения нетипична. Поэтому версию о нерешительном или несговорчивом предке стоит считать маловероятной.

Фамилия Карачий — одна из тех, что образована напрямую от прозвища, без добавления патронимических суффиксов -ов, -ев или -ин. Это указывает на её относительно позднее закрепление или на то, что носители жили в местности, где такая модель была распространена (например, на Украине или в южнорусских землях). Встречается фамилия редко, и её география невелика — в основном юг России и приграничные с Украиной области.