Фамилия Горжиева — женская форма от Горжиев, и её разумнее всего рассматривать в связке с исходной мужской. Основа фамилии — имя или прозвище Горжий. Самое вероятное объяснение: это русифицированная или адаптированная форма осетинского имени Горджи (Горджий). В осетинском языке «горджи» означает «гордый» или «гордец», но в имени этот корень чаще связывают с образом орла (от «гор» — орел). Имя Горджи — нередкое у осетин, особенно у дигорцев. От него закономерно образовалась фамилия Горджиев, а при переходе в русскую письменную традицию «д» могло выпасть или перейти в «ж»: Горжиев.

Вторая версия, менее вероятная, но возможная для южнорусских регионов, — связь с украинским или белорусским прозвищем Горжий, которое могло означать «горький» (от «гіркий», «горький»). В таком случае прозвище давали человеку с нелёгкой судьбой или горьким нравом. Однако в украинской ономастике фамилия Гіркий/Горький встречается чаще, чем Горжий.

Суффикс -ев указывает на принадлежность: буквально «сын Горжия». Форма на -а типична для женской линии. Фамилия редкая, в списках частотных русских фамилий не фигурирует. Географически её носителей можно встретить на Северном Кавказе (особенно в Осетии) и в казачьих областях юга России, куда осетины переселялись в XIX веке.

Спорный момент: изредка Горжиева путают с фамилией Горжева (от «горж» — горло, воротник), но это разные корни. Если предки были осетинами, фамилия несёт отсылку к гордому и свободолюбивому характеру, если же славянская основа — к горечи или трудной доле.