Фамилия Каструбай — редкий случай, когда прозвище сохранилось почти без изменений, не обросло типичными фамильными суффиксами -ов, -ин или -ский. В ней слышна прямая речь: «каструбай» — это повелительное наклонение от глагола «каструбать» в значении «строгать, обтёсывать, делать грубую работу топором или ножом». В украинских и южнорусских говорах «каструбати» означало «обрубать сучья, чистить дерево от коры», а в переносном смысле — «неуклюже стричь, кромсать». Фамилия, скорее всего, закрепилась за человеком, которому часто говорили: «Эй, каструбай!» — либо как шутливое обращение к плотнику, либо как насмешливое прозвище неумехи.

Географически фамилия тяготеет к западноукраинским и польским землям. В польском языке есть слово «kastrubać» — «чесать, скрести», а также «kastrubaj» как приказная форма. Не исключено, что первоначально прозвище дали человеку с жёсткими, торчащими волосами или неопрятной шевелюрой — «всклокоченный, как после грубой стрижки». Модель образования без суффикса (чистая основа глагола в повелительном наклонении) характерна для украинских и польских фамилий: Держикрай, Непийвода, Покотигорошко. Каструбай стоит в том же ряду.

Сословной привязки нет: носителем мог быть и крестьянин-плотник, и казак с характерным прозвищем. В метрических книгах XIX века фамилия встречается на Волыни и в Подолье, но массового распространения не получила. В современной России Каструбай — единичные случаи, чаще всего у потомков переселенцев с запада Украины или из Беларуси. Спорных версий происхождения практически нет: корень прозрачен, а попытки связать фамилию с тюркским «каструб» (якобы «железный человек») лингвистически несостоятельны — такого слова в тюркских языках не зафиксировано.