Фамилия Смаляная принадлежит к типу украинских или белорусских фамилий, образованных от прозвища, связанного с ремеслом. Основа — «смала» (смола). В восточнославянских говорах «смала» — это не только сосновая смола, но и дёготь, продукт сухой перегонки древесины. Человек, который гнал смолу или дёготь, назывался смоляр, смаляр, а его жена — смаляная (в значении «жена смоляра»). Фамилия могла закрепиться за женщиной, если она была вдовой или главой хозяйства, либо за мужчиной, которого в быту прозвали по жене — такой способ словообразования («чья?» → «чья жена») характерен для украинских и южнорусских фамилий на -ая.

Суффикс -ая указывает на притяжательную форму женского рода, что необычно для русских фамилий: в русской традиции фамилии на -ая чаще всего относятся к дворянскому роду (Строганова, Голицына). Здесь же — простонародная модель, где окончание указывает на прямую принадлежность: Смаляная буквально значит «принадлежащая Смаляному» или «жена Смаляного». Мужской вариант фамилии — Смаляный, который, в свою очередь, образован от того же ремесленного прозвища.

Географически фамилия Смаляная тяготеет к западнорусским землям: Гомельская, Брестская области Беларуси, Черниговская и Сумская области Украины. В России она встречается редко, чаще в форме Смаляный или Смалянов. В польском языке есть аналогичная фамилия Smalany — от smalać (смазывать дёгтем). Это ещё раз подтверждает ремесленное происхождение: предки носителей фамилии были смолокурами, дёгтекурами или мастерами по пропитке дерева смолой.

В ономастических словарях фамилия не упоминается — она не входит в списки массовых русских фамилий (вроде Иванов или Кузнецов). Поэтому можно утверждать, что она локальна и редка. Если вы ищете свои корни, стоит обратить внимание на переписи населения XIX века по Могилёвской и Черниговской губерниям — там с наибольшей вероятностью найдётся запись о Смаляных.