Фамилия Карулин образована от прозвища Карула. Скорее всего, оно восходит к литовскому слову karulys — «подвеска». Это указывает на род занятий предка: он мог быть ювелиром или ремесленником, изготавливавшим украшения. Фамилия построена по типичной восточнославянской модели с суффиксом -ин, который указывает на принадлежность: «сын Карулы». В русских фамилиях суффикс -ин обычно присоединяется к основам на -а/-я, что и произошло в данном случае.

Существует и другая версия, менее распространённая, но имеющая право на существование. Согласно ей, прозвище Карула связано с эстонским словом karulauk — «черемша», то есть лекарственное растение. В этом случае основатель рода мог быть травником или целителем, которого прозвали по растению, которым он лечил. Обе гипотезы — литовская и эстонская — указывают на балтийский или финно-угорский след в происхождении фамилии, что типично для северо-западных регионов России, где исторически пересекались разные языковые группы.

Фамилия Карулин — довольно редкая. Её географическое распространение неширокое, что делает каждую из версий трудно проверяемой, но именно эта редкость и придаёт ей особый колорит. Прозвище Карула со временем закрепилось как родовое имя, и потомок человека с таким прозвищем получил фамилию Карулин.