Фамилия Гудинская — типичный пример «географической» фамилии, образованной по модели «название места + -ский». Чаще всего такие фамилии указывали на выходца из определённой местности или владельца поместья. В основе фамилии лежит, скорее всего, топоним Гудино. В Московской области есть посёлок с таким названием, а в Ельнинском районе Смоленской области — деревня Ивано-Гудино. Основатель рода Гудинских мог родиться в одном из этих мест или владеть там землёй.

Менее очевидная версия выводит фамилию из прозвища Гуда, связанного с глаголом «гудить» — играть на гудке, старинном смычковом инструменте. Тогда предок был музыкантом, и прозвище перешло в фамилию через суффикс принадлежности. Есть и третья, более спорная гипотеза: от старолитовского gudinas («чистый, хороший»), что делало бы прозвище описательным, а не профессиональным. Однако для фамилий на -ский такое заимствование маловероятно — они почти всегда привязаны к конкретной географии.

В документах начала XX века фамилия уже бытовала: в списке землевладельцев Елисаветградского уезда 1908 года упомянут крестьянин Евсей Гаврилович Гудинский. Это подтверждает, что к тому времени фамилия закрепилась в крестьянской среде юга России, хотя корни её, вероятно, ведут на северо-запад, в смоленские или подмосковные земли.