Фамилия Гуржий имеет кавказское происхождение. Она образована от слова gurcu, которое в ряде тюркских языков (казахском, ингушском) означает «грузин». Ряд исследователей считает, что название Грузия переводится с греческого как «страна земледельцев», другие полагают, что она получила такое именование в честь святого Георгия. Поэтому фамилия Гуржий указывала на национальную принадлежность предка, жившего не в своей этнической среде.