Фамилия Гуржий — один из тех редких случаев, когда прозвище точно указывало на происхождение человека в иноязычной среде. Её основа — тюркское слово gürcü (встречается в казахском, ингушском и других языках), которое переводится просто и прямо: «грузин». Таким образом, Гуржием на Кавказе или в степях называли выходца из Грузии, который жил среди тюркоязычных народов.

Сами названия Грузии и грузин — тема для отдельного спора лингвистов. Одни возводят их к греческому georgos («земледелец»), другие связывают с именем святого Георгия, особо почитаемого в Грузии. Для фамилии Гуржий это не принципиально: важно, что в сознании соседей грузинский предок ассоциировался именно с этим корнем.

Модель образования фамилии проста: прозвище Гуржий (без добавочных суффиксов вроде -ов или -ин) перешло в фамилию напрямую, как это часто бывает у украинских, южнорусских и некоторых кавказских фамилий. Такая «нулевая» суффиксация — характерная черта, отличающая Гуржия, например, от «Гуржиева», где тот же корень оформили по русской патронимической модели.

Встречается фамилия преимущественно на юге России, в казачьих областях (бывшая Кубанская область, Ставрополье) и на Украине. Это логично: именно в этих краях исторически складывалось пёстрое население, и прозвище по национальности было удобным способом выделить человека среди своих. Предок-носитель фамилии, скорее всего, был грузином, который осел в инокультурной среде — среди казаков, ногайцев или горских народов — и получил это прозвище от соседей. Со временем оно закрепилось за его потомками уже как фамилия.