Фамилия Когустова — редкий случай, когда в основе лежит не имя, не профессия, а, скорее всего, прозвище, данное по внешнему признаку или повадке. Женская форма фамилии указывает на то, что её родоначальницей могла быть женщина, но в русской традиции такие фамилии обычно закреплялись за потомками мужчины-носителя прозвища Когут или Когуст.

Корень «ког-» прямо отсылает к звукоподражательному «ко-ко» и родствен слову «кокот» — старинному названию петуха. В украинском и южнорусских говорах «когут» — это именно петух, бойкий и задиристый. Суффикс «-уст» придаёт прозвищу оттенок свойства: Когуст — это не просто петух, а человек с ярко выраженными петушиными чертами: драчливый, горластый, любящий быть на виду, возможно, с пышной шевелюрой или хрипловатым голосом. Модель образования типична для прозвищ, которые давали не по роду занятий, а по характеру.

Встречаются и другие версии, но они менее убедительны. Например, связь с литовским «kagùtas» (загнутый, крючковатый) или с диалектным глаголом «когустать» (кричать, кудахтать) — по сути, это те же вариации на тему петуха. Соблазнительно было бы вывести фамилию от названия растения «когустник» (щавель), но такая гипотеза не подкреплена географией бытования: фамилия встречается в регионах, где распространён именно украинский говор (юг России, Украина, Белгородская и Курская области), а не в северных, где щавель называли иначе.

Фамилия Когустова — редкая, её носители, скорее всего, происходят из крестьянской или казачьей среды, где прозвища были особенно живучи. По суффиксу «-ов» фамилия относится к типичным русским «притяжательным» фамилиям, отвечающим на вопрос «чей?» — то есть «дочь или жена Когуста». В документах XIX века такая фамилия могла писаться и через «а» на конце (Когустова), и через «а» в основе (Когустов), что подтверждает её южнорусское происхождение.