Фамилия Нестер — это не самостоятельное прозвище, а народная, разговорная форма церковного имени Нестор. Именно оно лежит в основе фамилии. Имя древнегреческое, и перевод у него неожиданно «домашний» для такого звучного имени — «возвратившийся домой» или «вернувшийся скиталец». В древнегреческих мифах так звали мудрейшего царя Пилоса, участника Троянской войны, чьи советы ценились выше всех.

На Руси имя Нестор попало вместе с христианством, но в быту его быстро упростили. Полная форма звучала слишком книжно, поэтому в повседневной речи, особенно в крестьянской и посадской среде, имя редуцировалось до короткого «Нестер». Такой переход — не редкость: вспомните, как из «Ксенофонта» получался «Фоня», а из «Диомида» — «Дёма». От этой обиходной формы и образовали фамилию с типичным русским суффиксом принадлежности -ов, отвечающим на вопрос «чей?». Нестеров — значит «сын Нестера». Фамилия Нестер, в свою очередь, застыла в той самой исходной разговорной форме, без прибавления суффикса, что встречается реже.

Стоит различать две похожие, но разные фамилии: Нестеров — это «отчество» от той же основы, а Нестер — застывшее имя. Такое «бессуффиксное» образование характерно для западнорусских земель и Украины, где под влиянием польской традиции фамилии нередко совпадали с самим прозвищем или именем. Поэтому предки носителей фамилии Нестер, скорее всего, жили на территории современной Беларуси, Украины или в западных областях России.

Самый известный носитель имени, с которым путают фамилию, — летописец Нестор, автор «Повести временных лет». Но он жил в XII веке, когда фамилий ещё не существовало, так что к родовому имени отношения не имеет. Фамилия же Нестер фиксирует не личность, а память о предке, которого в быту звали просто Нестер — без отчества и церковной торжественности.