Фамилия Каратерзе — редкий случай в русском именослове, где тюркское и греческое наследие сплелись в одной основе. Скорее всего, это составная фамилия, образованная от прозвища, которое состояло из двух частей: «кара» и «терзе». «Кара» в тюркских языках (татарском, турецком, крымско-татарском) означает «черный», «темный». Вторая часть, «терзе», с большой вероятностью восходит к греческому «θέρση» (тэрси) — «смелость», «отвага», или же к его производным. Вместе прозвище Каратерзе могло означать «черная отвага» или «темная смелость» — так могли назвать человека с суровым, непреклонным нравом, либо того, чья храбрость проявлялась в мрачных обстоятельствах.

Модель образования фамилии — типичная для русских фамилий, возникших в среде, где смешивались языки: основа (прозвище) плюс нулевой суффикс. Фамилия не имеет окончания -ов, -ев или -ин, что характерно для фамилий, зафиксированных в южных регионах России, на Кубани, в Крыму или в среде казачества. Там часто оставляли прозвище в чистом виде, без русификации суффиксом. Возможно, предки носителя фамилии были греками-понтийцами или крымскими греками, которые жили в окружении тюркоязычных народов и переняли часть лексики, а затем, оказавшись в Российской империи, получили фамилию по своему прозвищу.

Встречаются и альтернативные версии. Например, «терзе» могло быть искажением тюркского «терс» — «упрямый», «противный». Тогда Каратерзе — «черный упрямец». Однако греческий корень выглядит более обоснованным, учитывая историю Крыма и Приазовья, где греческие общины существовали веками. По сословной принадлежности предки, скорее всего, не были дворянами: такие фамилии обычно носили крестьяне, казаки или мещане, жившие на южных границах империи. География бытования фамилии сегодня — в основном юг России и Украина, единичные случаи в других регионах.