Фамилия Каруфин — редкая и неочевидная с точки зрения происхождения. В ней нет типичного для русских фамилий суффикса -ов/-ев, а финаль -ин обычно указывает на принадлежность к отцу или роду. Основа «Каруф-» не встречается ни в древнерусских именах, ни в распространенных прозвищах, ни в названиях ремесел. Это заставляет искать корни за пределами славянского ареала.

Самая вероятная версия связывает Каруфина с греческим именем Карп (Καρπός), что значит «плод». В русской традиции это имя давали в честь апостола Карпа, одного из семидесяти. Через уменьшительную форму Каруфа (с характерным для южнославянских и греческих говоров переходом «п» в «ф») и русский патронимический суффикс -ин получилась фамилия Каруфин — «сын Каруфы». Подтверждением служит существование фамилии Каруф (у болгар, молдаван) и однокоренной Карупов, где исходная форма сохранена без озвончения.

Менее убедительная, но возможная версия — от прозвища, связанного с диалектным словом «каруфа». В некоторых говорах так называли вид рыбы (карась или мелкая плотва). Тогда Каруфин — потомок человека, которого прозвали Каруфой за внешность, род занятий или любовь к рыбалке. Однако эта гипотеза слабее, так как слово «каруфа» не зафиксировано в авторитетных словарях русских говоров как общеупотребительное.

По социальной принадлежности Каруфины, скорее всего, были крестьянами или мещанами. Фамилия не встречается в дворянских родословных книгах. Географически она тяготеет к югу России и Украине — регионам, где исторически было сильно греческое влияние. Встречается в Запорожской, Херсонской областях и в Краснодарском крае. Носители фамилии Каруфин — это, вероятно, потомки греческих переселенцев или обрусевших выходцев с Балкан, чья фамилия со временем адаптировалась к русской словообразовательной модели.