Фамилия Гаркавко происходит от прозвища Гаркавый. В переводе с украинского языка слово «гаркавий» означает «картавый» — такую характеристику давали человеку из-за особенностей произношения, невыговаривания отдельных звуков. Однако это лишь одна из версий. Глагол «гаркати» в украинских и южнорусских говорах значит «громко, отрывисто кричать», «говорить резко, повышенным тоном». Следовательно, прозвище Гаркавый мог получить и тот, кто отличался зычным голосом и крутым нравом.

Фамилия образована по распространённой украинской модели с суффиксом -к-, за которым следует окончание -о. Такая форма (на -ко) типична для восточной и центральной Украины: она указывает на потомка человека с прозвищем Гаркавый. Менее вероятно, что в основе лежит польское или белорусское слово — в этих языках «гаркавы» тоже означает «картавый», но фамилия с таким окончанием встречается прежде всего на территории современной Украины.

В официальных документах Российской империи фамилия фиксировалась в Полтавской, Черниговской и Харьковской губерниях — в зоне расселения казачества и крестьянства. Это позволяет предположить, что предки носителей фамилии относились к казачьему сословию или к государственным крестьянам, хотя точных данных о сословной принадлежности всех ветвей не сохранилось.

Похожие по корню фамилии — Гаркавенко, Гаркавий, Гаркалов — встречаются в украинском и южнорусском ономастиконе. Все они восходят к той же основе «гаркав-» и различаются только суффиксами, которые указывают на разные диалектные или словообразовательные традиции.