Фамилия Костеренков образована от прозвища Костер. Самая убедительная версия связывает его со словом «костер» — так называли жесткую кору растений, которую использовали при прядении льна и конопли. В этом случае прозвище относилось к «профессиональным» именованиям: Костером могли назвать мастера, который занимался обработкой растительного сырья для пряжи.

Менее вероятная версия выводит прозвище из просторечного глагола «костерить» — бранить, попрекать. Тогда Костером могли прозвать ворчливого человека, но эта гипотеза слабее: глагол дал бы скорее форму «Костерин» или «Костерихин», а не «Костер».

Сама фамилия стоит в ряду так называемых «полуотчеств» с суффиксом -енков. Такая модель образования типична для восточноукраинских и южнорусских земель, где фамилии на -енко и -енков особенно распространены. Костеренков — это, по сути, «сын Костеренка», то есть внук или потомок человека по прозвищу Костер. Со временем прозвище закрепилось как основное именование предка и легло в основу фамилии, которая передавалась уже по наследству.

Сравнение с однокоренными фамилиями — Костеров, Костерев, Костерин — показывает, что все они происходят от одной основы, но различаются способом оформления: суффиксы указывают на разные регионы бытования и этапы формирования русских фамилий.