Фамилия Шеряй сразу обращает на себя внимание необычным окончанием. В русской ономастике фамилии на -ай чаще всего имеют украинское или белорусское происхождение. Такая модель образования характерна для прозвищ, которые давали по какой-то яркой черте поведения или внешности: Гуляй, Стукай, Шугай. Шеряй стоит в этом же ряду.

Основа фамилии — глагол «шерить». В юго-западных русских говорах, а также в украинском и белорусском языках это слово означало «рыть», «копать», «шарить», «искать». Прозвище Шеряй могли дать человеку неспокойному, суетливому, который постоянно что-то ищет, роется, или же, наоборот, тому, кто занимался земляными работами — копал колодцы, рыл канавы. Встречается и другое значение — «шерить» в значении «тереть», «чесать», тогда прозвище могло относиться к человеку с привычкой чесаться или к тому, кто работал с шерстью, трепал её.

Сам суффикс -яй указывает на то, что прозвище закрепилось в форме повелительного наклонения — как приказ или характеристика действия. Это древняя модель, которая встречается в документах уже с XV века. Фамилии такого типа редко возникали в центральной России, зато обычны на территории современной Украины, в Белоруссии и в южных областях России — в Курской, Воронежской, Ростовской губерниях.

По сословной принадлежности Шеряи, скорее всего, были крестьянами или казаками. В реестрах Войска Запорожского встречаются похожие прозвища, что подтверждает южное происхождение фамилии. Дворянских родов с такой фамилией в Российской империи не зафиксировано.

Сравнение с однокоренными фамилиями — Шерин, Шеряков, Шерягин — показывает, что Шеряй стоит особняком. У всех остальных фамилий основа оформлена стандартными русскими суффиксами -ин, -ов, -агин, а Шеряй сохранил исходную прозвищную форму без дополнительных суффиксов. Это делает фамилию более древней по типу образования и более редкой.