Фамилия Оскалина — редкая и неочевидная с точки зрения происхождения. Чтобы понять её корни, нужно в первую очередь разобрать суффикс. Перед нами нестандартная модель: окончание -а указывает на женскую форму, а основа — Оскалин. Чаще всего фамилии на -ин образуются от имён или прозвищ, оканчивающихся на -а/-я (Гаврила → Гаврилин, Фома → Фомин). Но здесь мы видим основу «Оскал», а не «Оскала». Это значит, что перед нами либо вариант прозвища Оскал (от слова «оскал» — обычно о зубах, усмешке), либо искажённая форма другой фамилии.

Самая вероятная версия: фамилия образована от прозвища Оскал. В русских говорах «оскал» — не только звериная гримаса, но и человек с постоянной усмешкой, насмешник, а иногда и тот, кто «скалится» — огрызается, дерзит. Прозвище могли дать либо за характер, либо за внешность (например, человек с заметными зубами). Суффикс -ин в данном случае мог присоединиться к основе Оскал не напрямую, а через промежуточную форму: сначала прозвище Оскал, от него — притяжательное прилагательное «Оскалин» (чей? — Оскалов), которое затем закрепилось как фамилия. Это редкий, но возможный путь: в некоторых регионах (особенно на Севере и в Сибири) фамилии на -ин могли образовываться от прозвищ на твёрдый согласный, минуя стандартную модель с -ов.

Менее правдоподобная гипотеза — связь с тюркскими или финно-угорскими корнями. Например, в коми-пермяцком языке есть слово «оск» (вера, доверие), но суффикс -алин нехарактерен для этих языков, а фамилия выглядит как искусственное образование. Также возможно, что Оскалина — это русифицированная форма какой-то нерусской фамилии (например, польской или украинской), но без конкретных носителей и географии это лишь догадка.

География фамилии невелика. Встречается она в основном в центральной России и Поволжье, но не образует плотных гнёзд. Это говорит о том, что род, скорее всего, не был многочисленным. Сословная принадлежность, скорее всего, крестьянская или мещанская — фамилии с прозвищной основой и простым суффиксом обычно возникали в низших слоях общества после отмены крепостного права, когда крестьянам массово давали фамилии по прозвищам.

Итог простой: если вы носите фамилию Оскалина, ваши предки, вероятно, получили её от прозвища Оскал — насмешливого, острого на язык или просто человека с характерной улыбкой. Другие версии (тюркская, топонимическая) не имеют под собой серьёзной опоры.