Фамилия Каверга — редкий случай, когда прозвище перешло в фамилию почти без изменений, не обрастая типичными русскими суффиксами -ов или -ин. Это так называемая «нетрансформированная» фамилия, которая застыла в форме именительного падежа. Такое встречается в основном у украинских, белорусских и южнорусских фамилий (сравните: Палий, Нечай, Гаркава), что указывает на вероятное западно- или южнорусское происхождение рода.

Корень «каверг-» в русских говорах имеет два основных значения. Первое — диалектное слово «каверга» означало «крюк», «загогулина», «кривая палка». Прозвище Каверга могли дать человеку сутулому, согнутому, либо тому, кто ходил с клюкой. Второе значение — переносное: «каверза», «каверзник», то есть хитрец, спорщик или человек, который любит подстраивать каверзы. В словаре Владимира Даля «каверзить» — делать пакости, придираться, крючкотворствовать. Таким образом, основа фамилии — отнюдь не комплиментарная, а вполне бытовая, описывающая либо физический недостаток, либо неприятный характер.

Любопытно, что фамилия практически не имеет вариантов с суффиксами. Если бы её носитель жил в центральной России, прозвище скорее всего превратилось бы в Кавергин или Кавергов. Отсутствие суффикса — дополнительный аргумент в пользу того, что фамилия закрепилась в тех регионах, где прозвищные фамилии были нормой: на Украине, в Белоруссии или в пограничных с ними областях России (Брянщина, Смоленщина).

Встречаемость фамилии крайне низкая. В современных справочниках и телефонных базах Каверга фигурирует единично, что говорит о нешироком распространении рода. Скорее всего, это фамилия одного корня, а не массовое явление. Сравнение с однокоренными фамилиями (Каверзин, Каверзнев) показывает, что они более частотны — именно за счёт суффиксального оформления. Каверга же осталась архаичным осколком той эпохи, когда человека называли одним словом без прибавления «чей сын».