Фамилия Холостенко образована по типичной для украинских и южнорусских земель модели: прозвище Холостой, к которому добавили патронимический суффикс -енко, означающий «сын» или «потомок». Буквально фамилию можно перевести как «сын Холостого». Такой способ словообразования был широко распространён в казацкой среде и среди крестьянства Левобережной Украины в XVII–XVIII веках, поэтому корни рода, скорее всего, уходят именно туда.

Прозвище Холостой происходит от прилагательного «холостой», то есть неженатый, одинокий мужчина. Вопрос, за что именно предок получил такое прозвище, допускает несколько объяснений. Наиболее правдоподобная версия: основатель рода был воспитанником холостого мужчины — например, подкидышем или сиротой, которого взял на воспитание одинокий человек. В таком случае прозвище закреплялось за ребёнком по социальному статусу его кормильца.

Другая версия связывает прозвище с обстоятельствами рождения: так могли назвать человека, рождённого вне брака. В традиционном обществе это обстоятельство было заметным и часто становилось основой для уличного прозвища, которое затем переходило в официальную фамилию.

Менее вероятно, но не исключено, что прозвище Холостой получил оскоплённый (холощёный) человек. Эта версия выглядит сомнительной: такие случаи были редки, а прозвища, связанные с физическими особенностями, обычно строились на более очевидных признаках. К тому же в народной этимологии слово «холостой» в первую очередь ассоциировалось с семейным положением, а не с физиологией.

Со временем прозвище Холостой, изначально присоединённое к наследственному имени, полностью заменило его как в повседневной жизни, так и в официальных документах. Это типичная история для фамилий, возникших из прозвищ: сначала человека звали, скажем, Иван Холостой, затем его сыновей — Холостенки, а уже внуки и правнуки получили готовую фамилию.

Стоит заметить, что фамилия Холостенко сохранила в себе не только прозвище, но и отпечаток социальной среды своего возникновения. Суффикс -енко в XVII–XVIII веках был маркером принадлежности к казачеству и свободному крестьянству, в отличие от великорусских фамилий на -ов/-ев, которые чаще встречались у служилых людей. Поэтому носитель фамилии Холостенко с высокой долей вероятности может проследить свои корни в среде украинского казачества или мещанства.