Фамилия Лютостанская — это женская форма, а её исходная мужская версия — Лютостанский. Такое окончание (-ский/-ская) сразу указывает на географическую или топонимическую основу: такую фамилию обычно получали по названию места, откуда человек был родом или где владел землёй. В дворянской среде фамилии на -ский были особенно распространены в XVI–XVII веках, но встречались и у духовенства, и у мещан.

Корень фамилии — «Лютостан-». Здесь отчётливо слышится славянская основа «лют-», означающая «свирепый, жестокий, сильный» (сравните: лютый зверь, лютость). Вторая часть — «-стан» — в топонимах часто обозначает «стоянку, становище, место». Скорее всего, исходным было название поселения Лютостань (или Лютостан), которое могло возникнуть как прозвище урочища или хутора: «лютый стан» — место, где жили суровые люди, или, наоборот, место, которое само по себе было опасным и диким.

Более точных географических привязок в современных картах почти не сохранилось. Однако фамилия Лютостанский/Лютостанская имеет польский или западнорусский оттенок. В Речи Посполитой и на землях бывшего Великого княжества Литовского (современные Беларусь, Украина, восток Польши) такие фамилии с корнем «Лют-» и окончанием -ский образовывались массово. Встречается, например, топоним Лютостань в Львовской области Украины (село Лютовиська, ранее — Лютостань). Возможно, именно оттуда пошла фамилия.

Ещё одна гипотеза — искусственное происхождение в семинарской среде. Священникам нередко давали «красивые» фамилии от церковнославянских или редких корней. «Лютостанский» могло быть образовано как книжное, «говорящее» прозвище (от «лютый стан» — грозное положение), но это менее вероятно: в духовных училищах чаще брали за основу названия храмов или сёл.

В любом случае, фамилия редкая и звучная. Её носительница почти наверняка происходит из западнорусских или польских земель, а её предки либо владели землёй в местечке Лютостань, либо получили прозвище по характеру местности — суровой, дикой, непроходимой.