Фамилия Хмельной — редкий случай, когда прозвище перешло в фамилию почти без изменений, минуя типичные суффиксы -ов или -ин. В отличие от подавляющего большинства русских фамилий, образованных от прилагательных с помощью патронимических окончаний (Хмельнов, Хмельницкий), форма Хмельной — это застывшее имя прилагательное в именительном падеже. Такая модель встречается в основном у фамилий украинского или южнорусского происхождения (Гордый, Толстой, Босой) и указывает на то, что предка так и прозвали в быту: «Хмельной» — и никаких добавлений.

Основа прозвища прозрачна: хмель. Но здесь сразу два возможных корня, и оба правдоподобны. Первый — связь с состоянием опьянения. Прозвище Хмельной могли дать человеку, который любил выпить или часто ходил навеселе. Второй, менее очевидный, — связь с растением хмель. В говорах «хмельной» могло означать «относящийся к хмелю», то есть к пивоварению или к сбору этого сырья. В этом случае прозвище досталось бы пивовару, владельцу хмельника или торговцу хмелем.

Спор между этими версиями решается просто: в народной культуре прозвища по привычкам и поведению давали чаще, чем по ремеслу, если ремесло не было уникальным. Но и второй вариант нельзя сбрасывать со счетов — в регионах, где хмель был товарной культурой (например, в Гуслицах, на Псковщине, в некоторых уездах Черниговской губернии), прозвище по растению было бы уместно.

Фамилия Хмельной — нечастая, в дореволюционных метрических книгах и ревизских сказках она встречается точечно. Поскольку суффиксальный показатель сословной принадлежности отсутствует, носители этой фамилии, скорее всего, были крестьянами или мещанами — именно в этих средах закреплялись прозвища без патронимического оформления. В дворянской среде такая форма почти не встречалась.