Фамилия Гульбинская принадлежит к типу фамилий, образованных от прозвищ или географических названий, и её толкование может идти по двум разным путям. Самый прямой — от прозвища Гульба, которое давали любителю веселья, песен и плясок. Русская «гульба» — это не просто праздность, а размах народного гулянья, когда после тяжелой работы люди восстанавливали силы. Особенно славились этим казаки: этнограф Сергей Максимов в своих записках об Уральском войске начала 1880-х годов отмечал, что пиры и взаимные угощения были там настолько частыми, что казались обычным бытовым явлением. Так что предок-носитель фамилии вполне мог быть завсегдатаем таких гуляний.

Есть и менее очевидная, но любопытная версия. Владимир Даль в своем словаре указывал, что «гульбой» старообрядцы называли картошку. Слово имело оттенок неодобрения: по многовековым представлениям, картофель и табак считались плодами распутства. В таком случае прозвище Гульба мог получить либо любитель картофельных блюд, либо огородник, торговавший этим корнеплодом.

Вторая ветвь происхождения — топонимическая. Фамилия Гульбинская могла возникнуть как указание на выходца из селений с названиями Гульбино, Гульбинка или похожими. Такие названия, в свою очередь, скорее всего, тоже восходят к «гульбе» — месту, где устраивались народные гулянья. Суффикс -ск- в фамилии как раз и закрепляет связь с местностью: Гульбинский — «тот, кто из Гульбина».

В исторических документах начала XX века фамилия Гульбинский (а женская форма Гульбинская — от неё) встречается в самых разных уголках империи. Например, Антон Сидорович Гульбинский родился в 1903 году в деревне Малиновка Томской области, Болеслав Елисеевич Гульбинский — поляк 1864 года рождения, а Борис Иосифович Гульбинский появился на свет в 1895 году в армянском Ленинакане (ныне Гюмри). Эта география говорит о том, что фамилия не была привязана к одной местности и встречалась и в Сибири, и на западных окраинах, и в Закавказье.