Фамилия Смоляная — это «материнская» фамилия, образованная по модели, которая встречается реже, чем патронимы на -ов/-ев. Она происходит от женского прозвища или мирского имени Смоляная. В русской традиции такие фамилии давали детям, чаще всего внебрачным, по имени матери, если отец был неизвестен. В данном случае основа — прилагательное «смоляная», то есть «сделанная из смолы», «чёрная как смоль», или же «имеющая отношение к смоле».

Слово «смола» в прозвищах имело два основных значения. Первое — профессиональное: смолокур, человек, который гнал смолу, или торговец смолой. Смолокурение было распространённым промыслом в лесных регионах России, особенно на севере и в Сибири. Второе — описательное: прозвище Смоляной могли дать человеку за смуглую кожу, чёрные волосы или за въедливый, «липкий» характер. Женская форма Смоляная, скорее всего, закрепилась за вдовой или матерью, которая осталась единственным кормильцем, и дети пошли по её имени.

Суффикс -ая в фамилиях — явление нечастое. Он характерен для прозвищных фамилий, которые застыли в форме прилагательного женского рода. Встречаются такие фамилии преимущественно в южных и западных регионах России, а также в украинской и белорусской среде, где склонение фамилий могло долго сохранять архаичные черты. Географически фамилия Смоляная тяготеет к областям, где был развит смолокуренный промысел: Брянская, Смоленская, Псковская области, а также юг Украины.

Мужской вариант фамилии — Смоляной. Оба варианта стоят в одном ряду с однокоренными фамилиями Смоляков, Смоленский, Смольников, но отличаются редкой словообразовательной моделью. Если Смоляков — типичный патроним от Смоляк, то Смоляная прямо указывает на прозвище конкретной женщины. В дореволюционных переписях такие фамилии нередко записывали по матери, если отец не значился в документах. Таким образом, носитель фамилии Смоляная с высокой вероятностью происходит от женщины, которую в округе знали как Смоляную — либо за ремесло, либо за внешность.