Фамилия Нестерин образована от имени Нестер, народной формы канонического имени Нестор. В Древней Руси имя Нестор (греч. «вернувшийся домой» или, по другой версии, «путешественник») было известно по летописцу Нестору, автору «Повести временных лет». В быту имя быстро переделали в Нестер, и от этой формы пошли фамилии Нестеров, Нестеренко, Нестеровский и, с другим суффиксом, Нестерин.

Суффикс -ин указывает на принадлежность: Нестерин буквально значит «сын Нестера» или «человек из семьи Нестера». По модели образования это типичная «ичья» фамилия, распространённая в северных и центральных русских землях, где -ин чаще, чем -ов, присоединялся к основам на -а, -я. Если Нестеров — фамилия южнорусская и общераспространённая, то Нестерин встречается реже и выдаёт более локальное бытование, особенно в Поволжье и на Урале.

В документах XVII–XVIII веков встречаются крестьяне и посадские люди с такой фамилией, например, в переписных книгах Нижегородского уезда. Прозвище Нестер могло также закрепиться за человеком, который вёл себя степенно, по-старчески (ассоциация с летописцем), но скорее всего оно просто передавало имя, данное при крещении.

Есть и редкая версия, что в некоторых говорах «нестер» означало «непоседа» или «суетливый человек» — от глагола «нестись» (бежать, торопиться). Но эта гипотеза слабая: имя Нестер было настолько распространено, что вряд ли нуждалось в подкреплении прозвищем. Основной и надёжный путь — от крестильного имени Нестор, через его народную форму Нестер.