Фамилия Кавинская (мужской вариант — Кавинский) образована от прозвища Кава. Основа у этого прозвища не одна, и география подсказывает, какая из версий вероятнее для конкретного предка. В новгородских говорах кавой называли столбик, кол, тычок. Отсюда прозвище мог получить невысокий человек — «коротышка», или, реже, хозяин дома, чей забор был из кольев. Но есть и второй, совершенно другой корень: в западных губерниях Российской империи (территория современных Украины и Белоруссии) кавой называли кофе. Слово пришло из арабского qahwa — «бодрящий, не дающий заснуть». Кофе в те края попал через Крым и Кавказ, где арабы оставили след ещё в VII–VIII веках, а позже — через торговые пути. В таком случае прозвище Кава мог получить владелец кофейни или тот, кто варил и подавал этот напиток.

Суффикс -ский указывает на модель, типичную для шляхетских фамилий Речи Посполитой и западнорусских земель. Это значит, что предок Кавинских, скорее всего, жил на территории современных Белоруссии или Украины, где к прозвищу добавили родовой суффикс. Фамилия закрепилась как наследуемая и дошла до наших дней, сохранив память о своём первом носителе — будь то человек низкого роста или тот, кто первым в округе начал торговать бодрящим напитком.