Фамилия Лютая — это женская форма, а её основа — мужское прозвище Лютый. В старину так могли назвать человека за характер: «свирепый, зверский, кровожадный, неукротимый, жестокий». Слово имело и более бытовые оттенки — «злой, безмерно злобный» или даже «невыносимый». Но есть и другая, менее очевидная версия: в народе лютым называли февраль — месяц лютых морозов и метелей. Поэтому прозвище Лютый мог получить ребёнок, родившийся в феврале, без всякой связи с дурным нравом.

Фамилия образована по архаичной модели: прилагательное в полной форме стало фамилией напрямую, без добавления суффиксов -ов/-ев или -ин. Такие фамилии встречаются реже, чем патронимические, и в женском роде (Лютая) они указывают на то, что носительница — женщина. Мужской вариант той же фамилии — Лютый.

Одно из первых письменных упоминаний прозвища фиксирует «Ономастикон» С. Б. Веселовского: Лютый упоминается уже во второй половине XV века. Прозвище это было известно в разных слоях общества — и среди крестьян, и среди служилых людей, но фамилия Лютая (в женском написании) закрепилась, скорее всего, в среде, где фамилии передавались по отцу в неизменной форме прилагательного.

Интересно, что у фамилии есть однокоренные «собратья» — Лютов, Лютовский, Лютенко. Но Лютая стоит особняком: она сохранила древнюю грамматическую форму, которая в современном языке воспринимается почти как прилагательное. Это делает её одновременно и заметной, и редкой.