Фамилия Накостенко почти наверняка украинская. Об этом говорит типичный для украинской антропонимии суффикс -енко, который в XVI–XVII веках в Поднепровье означал «сын» или «потомок», а позже закрепился как фамильный. Если разбирать по составу, то основа здесь — Накост- (или, точнее, Накост- + суффикс -енко). Корень «кост-» сразу отсылает к слову «кость», но приставка «на-» меняет значение.

Самая прямая и правдоподобная версия — прозвище Накост (или Накостенко) дали человеку с заметной физической особенностью: например, очень худому, костистому, либо, наоборот, ширококостному и крепкому. В украинских говорах «накостний» могло означать «находящийся на кости» (как мозоль или нарост), но в прозвищах чаще фиксировали внешность. Встречается и другая трактовка: от глагола «накостить» — то есть навредить, сделать пакость. Однако для фамилий, образованных от глаголов, типичнее суффиксы -л- (Накостил) или -ай- (Накостай), а не -енко. Прозвище Накост могло закрепиться за сварливым или мстительным человеком, но эта версия менее надёжна — слишком легко подогнать под бытовую логику.

Сравнение с однокоренными фамилиями подсказывает, что Накостенко вписывается в ряд: Костенко (от «кость»), Костин, Костюк, Костюченко. Но приставка «на-» выделяет её: она редкая в этом гнезде. В реестре казаков Запорожской Сечи или в метрических книгах Левобережной Украины фамилии на -енко встречаются густо, но именно Накостенко — нечастый вариант. Географически она может тяготеть к Полтавщине или Черниговщине, где такие модели были особенно распространены.

Социальный контекст: в малороссийских губерниях Российской империи фамилии на -енко носили в основном казаки и крестьяне, реже — мещане. Дворянских родов с таким окончанием почти не было, если только не русифицировали окончание на -ов. Так что предки Накостенко, скорее всего, были из свободного или зависимого сельского населения, а прозвище получили по заметной черте — либо внешности, либо нрава. Точной даты возникновения фамилии назвать нельзя, но по модели она укладывается в XVII — начало XVIII века.