Фамилия Карабаев происходит от распространённого тюркского имени Карабай. Это имя составное: «кара» в данном случае означает не «чёрный», а «большой», «сильный», «могучий», а «бай» — это «господин», «богатый человек», «землевладелец». Таким образом, Карабай — это «сильный господин» или «великий богач». Имя давали как пожелание силы и богатства, а не как описание внешности.

Фамилия образована по стандартной для тюркских языков модели: к основе Карабай прибавляется русский патронимический суффикс -ев (вариант -ов после мягких и йотированных основ). Форма Карабаев буквально означает «сын Карабая». Встречаются и однокоренные фамилии Карабаев, Карабай, Карабайулы — разница только в способе оформления «сыновства» (русский суффикс или тюркская приставка).

Один из первых известных носителей — Абдурахман Карабаев, переводчик с персидского и татарского языков, работавший в Астрахани в начале XVIII века. Его отправляли с посольствами ко двору персидского шаха, а переводами он помогал историку Василию Татищеву. Это указывает, что фамилия уже в то время бытовала среди грамотных и служилых людей восточного происхождения, живших в России.

Географически фамилия Карабаев чаще всего встречается у башкир, татар, казахов и народов Кавказа. В башкирском языке есть и имя Карабай, и топоним Карабай (например, село в Башкортостане). Поэтому в некоторых случаях фамилия могла возникнуть и от названия места жительства, но основная версия — от личного имени.