Фамилия Оскалин образована от личного прозвища Оскала — так в старину могли назвать человека с открытой, широкой улыбкой. Основа здесь — глагол «оскалять», то есть показывать зубы, смеяться. Прозвище закреплялось за тем, кто часто и весело улыбался, и указывало на особенность характера: добродушие, открытость, склонность к шутке. В этом случае фамилия попадает в ряд «характерологических» прозвищ, которые на Руси давали без злого умысла, скорее как меткую бытовую примету.

Есть и вторая версия, менее очевидная, но тоже имеющая право на существование. В некоторых говорах слово «оскала» означало нечто нагое, голое, ободранное или облупленное. Отсюда — предположение, что прозвище могло относиться к месту жительства: например, к поляне, окруженной лесом, или к участку с неплодородной, «голой» почвой. Тогда прозвище Оскала закреплялось за человеком по признаку местности, где он жил, и уже через него перешло в фамилию.

Обе гипотезы сходятся в главном: в основе лежит прозвище, а не крестильное имя. Суффикс -ин указывает на принадлежность: Оскалин — это «сын Оскалы», потомок человека с таким прозвищем. Модель типична для северорусских и восточных территорий, где притяжательные фамилии на -ин встречались чаще, чем на западе.

Какая версия правдоподобнее? Первая, с улыбкой и смехом, выглядит убедительнее: она объясняет фамилию через живую, понятную черту человека, а такие прозвища были самыми распространенными. Версия с «голым местом» возможна, но требует допущений: слово это редкое, диалектное, и связь с фамилией прослеживается слабее. Впрочем, обе не противоречат друг другу — прозвище могло возникнуть независимо в разных семьях, и тогда у современных Оскалиных разные корни при одинаковом написании.

Сама фамилия встречается нечасто, и это тоже о многом говорит. Редкие фамилии обычно сохраняют более узкую географию: они реже «размывались» по стране и чаще держались в пределах одного региона. Точных данных о расселении Оскалиных нет, но по модели образования и основе можно предположить, что фамилия сложилась в северной или центральной части России, где прозвищные фамилии на -ин были обычным делом.