Фамилия Клюй относится к древнему пласту русских прозвищ, зафиксированных в документах уже в XVII веке. В основе фамилии, по самой распространённой версии, лежит прилагательное «клювый», которое в старину означало «красивый, статный, видный». Однако не исключено, что прозвище давали и по яркой внешней черте — человеку с длинным, орлиным носом, похожим на клюв. Оба значения указывают на то, что прозвище выделяло человека из окружения, будь то удачная внешность или её запоминающаяся деталь.

Есть и другая, бытовая версия, связанная с глаголом «клевать». Архангельский краевед М. Медведев отмечает, что в северных говорах «клюем» или «клевакой» в шутку называли сонливого человека, который всё время «клюёт носом». Эта гипотеза менее возвышенная, но более живая: прозвище могло закрепиться за рассеянным или любившим подремать человеком.

Сама фамилия образована без типичного русского суффикса (-ов, -ин) — это так называемая «застывшая» форма прозвища в именительном падеже. Такая модель встречается реже, чем патронимические фамилии, и характерна для украинской и южнорусской традиции, хотя в данном случае прозвище зафиксировано в Москве: в 1638 году в письменных источниках упоминается Гаврило Клюй. Это говорит о том, что фамилия могла возникнуть как мирское имя, которое давали вне церковного календаря, и со временем закрепилась за потомками без изменения формы.