Фамилия Острянин — один из тех случаев, где слышится прозвище, а на поверку оказывается географическое имя. На слух она кажется производной от слова «острый»: мол, предок был острым на язык или на глаз. Но большинство исследователей сходится на другом: Острянин — это указание на место жительства, выходца из местности с корнем «Остр-».

Самый прямой кандидат — город Острог на Украине (ныне Ровенская область). Жителя Острога в старину называли «острожанин», но в разговорной речи форма могла сократиться и измениться до «острянин» — через выпадение согласного и упрощение. Такая модель типична для многих славянских фамилий на -янин, которые указывают на принадлежность к городу или региону: от «Рига» — Рижанин, от «Москва» — Москвитин, от «Острог» — Острянин. Суффикс -янин здесь работает как определитель «откуда родом».

Менее вероятная, но не исключённая версия — происхождение от прозвища Остря, Острый. В таком случае фамилия образовалась бы по типу «чей сын?» — Острянин, то есть «сын Остри». Однако суффикс -ин в русских фамилиях обычно крепится к основе на -а/-я (Остря → Острянин), что грамматически допустимо, но встречается реже, чем патронимы на -ов/-ев. К тому же прозвище Остря фиксируется в древнерусских грамотах, но почти всегда как краткая форма от имени Остромир или Остроум, что возвращает нас к той же «острой» семантике.

Исторический контекст добавляет веса «городской» версии. Наиболее известный носитель фамилии — гетман запорожских казаков Яков Острянин (он же Остряница), предводитель восстания 1638 года. Его фамилия прямо связывается с городом Острог: в документах того времени его называли «Острянин з Острога». Так что для носителей фамилии с украинскими или южнорусскими корнями эта версия — основная.

В написании фамилия устойчива: двойное «н» в суффиксе -янин — норма для книжной традиции, хотя в бытовой речи и старых записях встречается вариант Острянинов (с дополнительным -ов, как бы «удвоение» принадлежности). Географически фамилия чаще встречается в Украине и прилегающих областях России, что подтверждает её западнорусское или малороссийское происхождение.