Фамилия Харьковая — одна из тех, что ставит исследователя перед выбором: искать корни в географии или в прозвище. На первый взгляд напрашивается связь с городом Харьков, но словообразовательная модель подсказывает иной путь.

Фамилия образована по типичной для южнорусских и украинских земель модели: основа + суффикс -ов/ев и окончание -ая в женском роде. Мужской вариант — Харьков. Однако в русской ономастике фамилии на -ов/-ев обычно происходят от имени или прозвища отца, а не от названия города напрямую (хотя исключения есть, особенно если предок был выходцем из этого города и получил прозвище «Харьков»). Прямая связь с топонимом чаще даёт фамилии на -ский/-цкий (Харьковский).

Гораздо логичнее возвести основу к личному имени Харько — украинской народной форме канонического имени Харитон (от греч. «харис» — милость, благодать). Или же к имени Харлампий (от греч. «сияющий радостью»). В украинском языке усечение и добавление суффикса -ко давало множество уменьшительно-ласкательных форм: Харько, Харько́. Человек по имени Харько становился «Харьковым сыном», то есть Харьков. Женская форма Харьковая закрепилась за дочерью или вдовой такого человека.

Есть и более редкая, бытовая версия: прозвище Харько мог получить человек, торговавший харчами (съестными припасами) или отличавшийся хорошим аппетитом. В диалектах слово «харч» означало еду, провизию. Но эта версия уступает антропонимической — от имени, так как суффикс -ко в украинской традиции был типичен именно для имён, а не для прозвищ от нарицательных слов.

Фамилия Харьковая распространена не в самом Харькове, а скорее в соседних областях России — Белгородской, Курской, Воронежской, а также на Кубани. Это зона активного переселения украинских крестьян в XVIII–XIX веках. То есть носители фамилии — потомки тех, кто носил имя Харько, а не тех, кто жил в одноимённом городе. География бытования фамилии надёжнее указывает на антропонимическое происхождение, чем на топонимическое.

Таким образом, предок современной Харьковой с высокой вероятностью звался Харько — в крещении Харитон или Харлампий. Фамилия закрепилась на юге России вместе с потоком малороссийских переселенцев и сохранила в себе старую, ныне почти забытую, форму имени.