Фамилия Костельнюк образована по типичной для западноукраинских земель модели: к основе Костель- добавили суффикс -юк, который в польской и украинской традиции указывает на потомка или ученика мастера. То есть Костельнюк — это «сын Костельника» или «тот, кто из рода Костельников».

Самая прямая версия происхождения основы — от слова «костёл» (римско-католический храм). Прозвище Костельник могли дать человеку, который часто ходил в костёл, служил при нём или был католиком по вероисповеданию. В польско-украинском пограничье, где соседствовали православные и католики, такое прозвище чётко указывало на конфессиональную принадлежность.

Есть и вторая, менее очевидная версия. Она связывает фамилию со словом «костерь» — так называли жёсткую кору льна и конопли, которая оставалась после обработки. В переносном смысле костерём могли назвать строптивого, неуживчивого человека или сквернослова — того, кто «колется», как эта жёсткая кора. В этом случае прозвище Костельник описывало не ремесло, а характер.

Третья версия, хотя и встречается, менее убедительна: возводить Костельнюк к крестильному имени Константин (греч. «стойкий, постоянный»). Для такого перехода нет убедительных словообразовательных параллелей: от Константина обычно образуются Константинов, Костя, Костин, но не Костель. Скорее всего, это народная этимология, возникшая из-за созвучия.

Таким образом, наиболее вероятно, что предок носителей фамилии Костельнюк был либо католиком (или служителем костёла), либо получил прозвище за жёсткий, неуступчивый нрав. Фамилия закрепилась в западных областях Украины, где суффикс -юк — один из главных маркеров фамильного имени.