Фамилия Шалая — яркий пример того, как прозвище, данное человеку за характер или поведение, стало родовым именем. В основе лежит прилагательное «шалый» — в русских говорах это слово означало «сумасбродный, взбалмошный, неугомонный, склонный к неожиданным и не всегда разумным поступкам». В некоторых диалектах «шалым» называли и того, кто «шалит» в значении «проказничает, балует», но чаще оттенок был резче: человек с неуравновешенным нравом, которого трудно предугадать.

Словообразовательная модель здесь необычна для русских фамилий. Шалая — это субстантивированное прилагательное в женском роде, то есть фамилия закрепилась в форме, совпадающей с исходным словом, без суффиксов -ов, -ин или -ский. Такая модель встречается в основном у потомков, получивших фамилию от прозвища матери или отца, но записанного без изменений. Чаще всего фамилии типа Шалая, Веселая, Умная фиксировались в южнорусских и украинских регионах, где была сильна традиция оставлять родовое прозвище в исходной грамматической форме. Мужской вариант — Шалый — встречается реже, но логически первичен: главу семьи могли прозвать Шалым, а за детьми и женой закрепилось то же прозвище в женском роде, которое затем и стало фамилией.

Географически фамилия Шалая распространена неравномерно. По данным современных телефонных справочников и архивных записей, она чаще всего встречается на Кубани, в Ростовской области и на юге Украины — в бывших землях Войска Запорожского. Там слово «шалый» было в ходу, и прозвище могло пристать к казаку, который в бою действовал дерзко и непредсказуемо, а в мирной жизни — буйно и своевольно. В северных и центральных губерниях России фамилия почти не встречается: там предпочитали суффиксальные формы вроде Шалов или Шалин.

Есть и альтернативная, менее убедительная версия, связывающая фамилию с тюркским корнем «шал» — «кривой, косой». Но в русском языке слово «шалый» имеет славянское происхождение (от «шаль» — «дурь, безумство», родственного «шалеть»), и вряд ли носители фамилии на юге России получили её от тюркского прозвища. Правдоподобнее, что предок был человеком с крутым нравом — и это качество запомнилось соседям настолько, что пережило века в виде фамилии.

В дореволюционных метрических книгах фамилия Шалая встречается в основном среди крестьян и казаков. Дворянских родов с такой фамилией не зафиксировано — это ещё одно подтверждение, что корень у неё прозвищный, народный.