Фамилия Карабий — одна из тех, что ставит исследователя перед выбором между несколькими версиями, и каждая из них открывает разный мир предков. Словообразовательная модель здесь не самая частая для русских фамилий: суффикс -ий (в исходной форме Карабий) характерен скорее для украинской и польской традиции, где он указывает на прозвищное или профессиональное происхождение. В русском языке такая фамилия могла закрепиться в южных или западных регионах, на границе с Украиной и Белоруссией.

Самая прямая версия — от прозвища Караб, которое восходит к тюркскому «кара» (чёрный) и «бий» (князь, правитель). В степных и казачьих областях такой составной титул мог дать прозвище человеку с тёмными волосами или смуглой кожей, либо же указывать на его властный или суровый нрав. Однако не стоит торопиться с тюркским следом: слово «карабий» в южнорусских говорах могло означать «короткий кнут» или «плеть» — тогда прозвище получал тот, кто работал с лошадьми, погонял скот или просто отличался резкостью в обращении.

Есть и менее очевидный, но лингвистически интересный вариант: связь с украинским «карабити» — «выцарапывать», «вырезать». В таком случае Карабием могли назвать резчика по дереву, кости или камню, мастера, который «карабив» узоры. Эта версия объясняет и суффикс -ий, который в украинской ономастике часто превращает глагол в прозвище деятеля (ср. Палий от «палити», Коваль от «кувати»).

Фамилия встречается в нескольких точках восточноевропейского ареала: есть записи о носителях Карабий в Подолье, на Волыни, а также в среде запорожского казачества. Сословно это, скорее всего, крестьянская или казацкая фамилия, без дворянских корней. В отличие от фамилий на -ов/-ев, которые массово давались по отцу, Карабий застыла в форме прозвища, минуя патронимический этап, — это признак более позднего закрепления, часто в XVIII–XIX веках, когда фамилии приобретали уже не по отцу, а по роду занятий или внешности самого человека.