Фамилия Гуджабидзе — одна из тех, что хранит в себе не только родовую историю, но и следы сложного переплетения культур на стыке Грузии и Армении. Её основа, скорее всего, не личное имя или прозвище, а географическое название — топоним Гуджаби (известный также как Худжаб или Худжап). Так именуется местность неподалёку от современной грузино-армянской границы, где в XIII веке существовал древний монастырь.

Сам топоним, вероятно, имеет арабские корни: слово «худжап» переводится как «сторож» или «вратарник». Это прямое указание на функцию храма, и здесь возникает любопытная параллель с Иверской иконой Божией Матери на Афоне, которую также называют «Вратарницей». По преданию, храм в Худжабе был освящён именно в честь этой иконы. Рядом с главным храмом стоит небольшая базилика, посвящённая святой Нине Равноапостольной — святой, особо почитаемой армянами-халкидонитами, которые составляли основное население этих мест в XII–XIII веках. Позже, в конце XIX — начале XX века, Худжаб стал одним из центров русского монашества в Закавказье, где подвизались сотни русских иноков. Сегодня храм заброшен, но остаётся местом паломничества для грузин и армян-халкидонитов.

Фамилия образована по стандартной для Грузии модели: к основе Гуджаби- добавлен патронимический суффикс -дзе, который означает «сын». Таким образом, Гуджабидзе — это «сын человека из Гуджаби» или «выходец из Гуджаби». Фамилия, скорее всего, указывает на конкретное родовое гнездо, а не на широкое распространение. В документах встречаются носители этой фамилии, например, в Книге памяти Красноярского края записан грузин Гуджабидзе Михаил Дмитриевич, родившийся в 1902 году в Батуми. Эта запись подтверждает, что фамилия бытовала в причерноморской Грузии, хотя её корни уходят на восток, к древнему пограничному монастырю.