Фамилия Дембомкая — редкий случай, когда написание прямо указывает на путь, по которому фамилия вошла в русский язык. Перед нами, скорее всего, опечатка или результат народной этимологии, закрепившийся в документах. Правильная исходная форма, которую можно восстановить, — Дембовская или Дембская.

Разберёмся по порядку. Основа фамилии — «Демб-». Это польский или западноукраинский корень, восходящий к слову «dąb» (дуб). В польском языке носовое «ą» на письме часто передавалось как «ем» или «ом», отсюда и форма «Демб». Суффикс «-ск-» (в варианте «-цк-» после твёрдого согласного) — типичный для шляхетских и географических фамилий Речи Посполитой. Он указывает на связь с местностью: Дембово, Дембна, Дембно — таких топонимов в Польше, Беларуси и на Западной Украине десятки. Житель такого села получал прозвание «з Дембова» — Дембовский.

Окончание «-ая» вместо ожидаемого «-ий» — чисто русская адаптация. В XIX веке при записи фамилий в метрические книги или ревизские сказки польское «-ski» нередко переделывали на русский лад в «-ский», а для женского рода — в «-ская». Форма «Дембомкая» выглядит как искажение при переписи: возможно, писарь на слух записал «Дембовская» как «Дембомкая», перепутав «в» и «м», или же в говоре произошло уподобление звуков. Второй вариант — это диалектное произношение, где «в» перед глухим «к» оглушилось и перешло в «м», что и закрепилось на письме.

Таким образом, носитель фамилии Дембомкая с высокой вероятностью происходит из семьи, носившей фамилию Дембовские. Предки могли быть выходцами из шляхты (мелкопоместной или служилой) или крестьянами, переселившимися с запада в центральную Россию или на юг. Фамилия указывает на родовое гнездо, связанное с дубравой или селом Дембово. Других версий, правдоподобных с точки зрения ономастики, для этой редкой формы нет: ни «бомкать», ни «дембить» в русских говорах не фиксируются.