Фамилия Костерина образована от прозвища Костерь. В русских говорах словом «костерь» называли жёсткую кору льна и конопли, которая оставалась после их обработки. Отсюда первая версия: Костерём могли прозвать мастера, который занимался прядением, — человека, имевшего дело с этим сырьём. Но есть и другая сторона: «костерь» — колючий, ломкий сор, поэтому то же прозвище могли дать человеку с грубым, неуживчивым характером.

Вторая версия ведёт к игре в кости. Костерём называли заядлого игрока в бабки или в кости, а также мошенника, который промышлял этой игрой. Со временем слово перешло и на страстных картёжников — так что предок-Костерь мог быть азартным человеком, а то и шулером.

Сама фамилия построена по простой русской модели: к основе Костерь прибавили суффикс -ин, который указывает на принадлежность («чей?»). Костерин — значит «сын Костеря» или «из семьи Костеря». Такая модель типична для фамилий, образованных от прозвищ или имён, оканчивающихся на согласный или -а/-я.

Иногда фамилию Костерина ошибочно связывают с именем Константин. Константин в переводе с греческого — «стойкий, постоянный», но фамилия Костерина к этому имени прямого отношения не имеет. Схожесть только звуковая: уменьшительные формы от Константина — Костя, Костушка, а Костерь — это самостоятельное прозвище.

Важно и написание: в старых документах и говорах встречается вариант Костерев — с суффиксом -ев. Обе формы живут в разных регионах, но Костерина чаще встречается в центральных и северных областях России, где был развит льняной промысел. Это косвенно подтверждает первую, «прядильную» версию происхождения.