Фамилия Хромой — редкий для русской ономастики случай, когда прозвище перешло в фамилию без каких-либо суффиксов, в чистом виде прилагательного. В большинстве русских фамилий мы видим модели на -ов, -ин или -ский, но здесь основа осталась нетронутой, что выдает либо очень раннее закрепление прозвища (ещё до массового оформления фамилий в XVI–XVII веках), либо, что вероятнее, украинское или белорусское происхождение носителя. В этих языках фамилии-прилагательные без суффикса встречаются гораздо чаще: Кривой, Глухой, Хромой.

Прозвище Хромой давали человеку с заметной хромотой — врожденной или полученной в результате травмы. В крестьянской среде, где физическая работа была основой выживания, такой недостаток сразу бросался в глаза и становился устойчивым уличным именем. При этом не стоит думать, что прозвище было унизительным: в традиционной культуре его носили как данность, без злого умысла, и оно не мешало человеку занимать уважаемое положение в общине.

Ономастические словари (например, работы Б. Унбегауна) подтверждают, что фамилии, образованные от физических особенностей, — один из древнейших пластов русских прозвищ. Однако именно форма Хромой, а не Хромов или Хромин, встречается редко. В переписных книгах XVII века можно найти Хромых — вариант в родительном падеже множественного числа, типичный для северных и сибирских говоров (ответ на вопрос «чей?» — «из семьи Хромых»). Но форма Хромой — это именительный падеж единственного числа, что сближает её с украинской традицией, где такие фамилии не склонялись и не обрастали суффиксами.

Интересная деталь: в некоторых диалектах слово «хромой» имело не только прямое значение. В псковских и тверских говорах так могли назвать не только человека с больной ногой, но и кривобокий предмет, неровно сшитую одежду или даже плохо работающий механизм — например, «хромое колесо». Но вряд ли прозвище давали по вещи; скорее, это параллельное бытование корня. Основная версия остаётся антропологической: предок носителя фамилии Хромой действительно хромал, и это стало его родовым именем, которое не изменилось за столетия.