Фамилия Костельний — редкий пример, где украинское происхождение видно сразу, ещё до разбора корня. Типичный украинский суффикс -ий указывает на прилагательное в роли фамилии: Костельний буквально значит «костёльный», то есть «относящийся к костёлу» (католическому храму). В русском или белорусском варианте та же основа дала бы фамилию Костельнов или Костельников.

Основа — «костёл» (польское kościół, от латинского castellum — «укрепление»). В украинских землях, особенно на западе (Галичина, Волынь, Подолье), костёл был привычным элементом пейзажа, а слово прочно вошло в лексику. Фамилия могла закрепиться за человеком, который жил рядом с костёлом, работал при нём (звонарь, сторож, служка) или просто получил прозвище за частые посещения храма.

Интересно, что в польской ономастике есть фамилия Kościelny — распространённая и часто означавшая должность костёльного (церковного старосты или ключаря). Украинская форма Костельний — прямой аналог, но с фонетической адаптацией: польское «ś» перешло в твёрдое «с», а окончание изменилось под влиянием украинского языка. Таким образом, предок носителя этой фамилии мог быть не просто прихожанином, а человеком, отвечавшим за порядок и хозяйство в католическом храме — должность заметная и уважаемая.

Фамилия редкая, встречается преимущественно в западных областях Украины (Львовская, Тернопольская, Ивано-Франковская). В России почти не бытует — это дополнительный маркер, что корни семьи ведут в регионы, где католичество и польское влияние оставили след в языке и именовании. Морфологически фамилия склоняется как прилагательное: Костельного, Костельному, что тоже редкость для украинских фамилий — большинство из них застыли в форме существительных.