Прозвище Карацуба, от которого пошла фамилия, сложено из двух разноязыких частей. Первая, «кара-», — тюркская, означает «чёрный». Вторая восходит к украинскому слову «цюпа» — «убогая, бедная хата, хижина». Таким образом, Карацубой могли прозвать человека, владевшего невыбеленной, почерневшей от времени лачугой, или того, кто в такой хате жил. Фамилия образована по восточнославянской модели без дополнительного суффикса: прозвище перешло в фамилию в исходной форме, что характерно для украинской ономастики.

Существует и другая версия — об исключительно тюркском происхождении. Согласно ей, первоначальное написание было Карацопа. Компонент «цопа» (çöp, çop) в тюркских языках может означать «жилище», «становище». В этом случае фамилия якобы связана с именем византийского военачальника XI века Карацы, тюрка по происхождению, и означала бы «из дома Карацы». Однако эта гипотеза менее правдоподобна: она опирается на единичную историческую фигуру и не объясняет, как имя византийского полководца закрепилось в украинской среде. Первая версия — с прозвищем по типу жилья — проще и органичнее вписывается в восточнославянскую традицию именования по бытовым признакам.

Фамилия редкая, географически привязана к украинским землям, где тюркские заимствования в бытовой лексике обычны. Носители фамилии Карацуба встречаются и в России, но их немного — фамилия так и осталась локальной.