Фамилия Кугуй — редкая и звучит не по-русски. Её происхождение почти наверняка связано с тюркскими языками, скорее всего, с чувашским или татарским. В чувашском языке слово «кугуй» (или «куккуй») означает «кукушка». Прозвище Кугуй могли дать человеку по разным причинам: за привычку куковать, то есть грустить или напевать однообразную песню, за высокий голос или, наоборот, за молчаливость и скрытность, которую в народе связывали с этой птицей. Возможна и другая версия: в некоторых тюркских говорах «кугу» — это «лебедь», и «Кугуй» могло быть ласкательно-уменьшительным прозвищем от этого корня.

Суффикс -уй в русских фамилиях нехарактерен. В тюркских языках он может быть частью корня или уменьшительным аффиксом. Поэтому Кугуй — это не русская фамилия, образованная по модели «имя + -ов», а застывшее прозвище, которое перешло в фамилию без изменений. Такие фамилии встречаются у чувашей, татар, башкир и других народов Поволжья. В русских документах фамилия могла появиться как запись местного прозвища, например, в Казанской или Симбирской губерниях, где жили чуваши и татары.

Другая, менее вероятная версия — связь с марийским словом «кугу» — «большой, великий». Но в марийском языке слово «кугуй» как самостоятельное не встречается, чаще используется форма «кугу» в составе имен или прозвищ. Поэтому версия с кукушкой или лебедем выглядит убедительнее.

Встречаются единичные носители фамилии Кугуй в России, в основном в Чувашии и Татарстане. Она не относится к дворянским или купеческим — это фамилия, возникшая в крестьянской или мещанской среде, где прозвища давали по природным чертам или поведению. Фамилия не склоняется по падежам, если принадлежит мужчине (Иван Кугуй), и склоняется, если женщине (Анны Кугуй).