Фамилия образована от прозвища Костырь. Позже по аналогии Костырем стали именовать страстного картежника. Таким образом, потомок человека, обладающего прозвищем Костырь, со временем получил фамилию Костырко.