Фамилия Болотяная — редкий случай, когда женская форма закрепилась как основная, а не как производная от мужской (Болотяной, Болотный). Чаще всего такие фамилии встречаются на юге России и Украины, где окончание -ая/-яя в фамилиях — норма, а не исключение. В центральных и северных регионах ту же основу дали бы фамилии Болотов, Болотников или Болотный.

Корень очевиден: «болото». Но прозвище Болото или Болотяный в старину давали не каждому, кто жил у болота. Чаще так называли человека с определённым складом характера — медлительного, вязкого, «топкого», как говорили в народе. В словаре Даля есть и другое значение: «болотный» — бледный, нездоровый, с синеватым отливом кожи. Поэтому прозвище могло указывать и на внешность.

Суффикс -ян- в основе (Болот-ян-ая) — типичный для притяжательных или характеризующих прилагательных в южнорусских говорах. Он же встречается в фамилиях Поляный, Лубяной, Земляной. Если бы фамилия образовалась от названия населённого пункта (например, деревни Болотяное), то носитель мог получить её при переезде: «он из Болотяного» — «Болотяный» — «Болотяная». Такие случаи известны по переписным книгам XVII века для Черниговщины и Полтавщины.

Среди однокоренных фамилий Болотяная выделяется тем, что не даёт однозначного ответа о сословии предков. В среде крестьян и казаков такие прозвища бытовали свободно, а вот у дворянских родов форма на -ая почти не встречалась — там предпочитали Болотниковы или Болотовы. Поэтому с высокой вероятностью предки носительницы фамилии — вольные или государственные крестьяне, возможно, казаки южных рубежей.

Споров о происхождении почти нет: основа ясна, альтернативные версии (от тюркского «болот» — сталь) лингвисты отвергают из-за несоответствия словообразовательной модели. Фамилия редкая, в современных справочниках по России фиксируется единичными записями, сосредоточенными в Белгородской и Воронежской областях.