Фамилия Костылюк образована по характерной для западнорусских и украинских земель модели с суффиксом -юк. Этот суффикс (наряду с -ук, -чук) в белорусской и украинской ономастике традиционно указывал на сына или потомка человека, чьё имя или прозвище стало основой: Костыль → Костылюк, то есть «сын Костыля». География фамилии — преимущественно западные области Украины, юго-запад Беларуси, а также соседние регионы Польши, откуда носители могли мигрировать в XIX–XX веках.

Основа фамилии — прозвище Костыль. В русских говорах «костыль» — это не только опора для хромого, но и деревянный гвоздь, колышек, а также изогнутый инструмент (например, костыль для загибания гвоздей). Однако в прозвищах чаще всего отражалась внешность или поведение: «костылём» могли назвать высокого, худого или сутулого человека, который напоминал своей фигурой эту палку. В словаре древнерусских прозвищ (по материалам С. Б. Веселовского) есть упоминание Костыля как личного имени-прозвища в XV–XVI веках — его давали не в обиду, а по бытовой ассоциации.

Интересная деталь: в отличие от фамилий с суффиксом -ов/-ев (Костылёв, Костылев), которые распространены в центральной России и чаще образованы от того же прозвища, форма Костылюк сохраняет архаичный патронимический суффикс, типичный для регионов, где долго держалась традиция именования по отцу без перехода на великорусскую модель. То есть носитель фамилии Костылюк с высокой вероятностью происходит из семьи, где предок носил прозвище Костыль, и это закрепилось в форме «чей? — Костылюков» (позже сокращённой до Костылюк).

Встречаются также единичные случаи, когда основой могло стать не прозвище, а название ремесла: в некоторых говорах «костыль» — это деталь ткацкого станка или плотницкий инструмент. Но эта версия менее вероятна, так как прозвищные фамилии на -юк в массе своей восходят к личным именам или характеристикам человека, а не к орудиям труда.

Написание фамилии устойчивое, с буквой «ы» в корне (не путать с возможным вариантом Костелюк от имени Костя). Встречается и форма Костылюк с ударением на последний слог — это соответствует украинской акцентной норме.