Фамилия Нагорныи — яркий пример того, как географический признак становился семейным именем. Её основа — прилагательное «нагорный», то есть «тот, кто живёт на горе, на возвышенности». В отличие от фамилий на -ов/-ев, которые чаще образовывались от имени или прозвища отца, эта фамилия пошла от места жительства. Суффикс -ыи (в современном написании -ый) — старая, полная форма прилагательного, типичная для южнорусских и украинских говоров. В северных и центральных регионах России чаще встречался бы вариант Нагорнов, а на западе — Нагорский.

В написании «Нагорныи» обращает на себя внимание окончание -ыи. В дореволюционной орфографии такое написание было нормой для прилагательных мужского рода (сравните: «старый», «молодой»). Сегодня оно встречается в основном как архаичное или диалектное — у потомков переселенцев, которые сохранили старую письменную форму. Если ваши предки были из Малороссии (Украины) или южных губерний России, где «ы» на конце звучало твёрже, — это объяснение самое вероятное.

С точки зрения социальной истории, фамилия Нагорныи не указывает на дворянское происхождение. Её носителями были, скорее всего, крестьяне или казаки, жившие на холмистой местности. В сёлах и станицах прозвище «Нагорный» давали тому, чья хата стояла выше остальных, на взгорке. В казачьей среде это могло быть и указанием на расположение куреня. Фамилия не редкая, но и не массовая — распространена в Воронежской, Ростовской областях, в Краснодарском крае и на востоке Украины, где рельеф позволяет выделить «нагорную» часть села.

Однокоренные фамилии — Нагорнов, Нагорский, Нагорецкий — различаются суффиксами и региональной привязкой. Например, Нагорский чаще встречается у поляков и белорусов, а Нагорнов — у жителей центральной России. Ваш вариант — Нагорныи — самый «южный» и диалектный, он лучше всего сохранил живую народную речь.