Фамилия Кострубов происходит от прозвища Коструб, широко распространённого в Малороссии (историческая территория современной Украины). В основе лежит украинское слово «коструб», у которого несколько значений, и каждое могло дать начало прозвищу.

Первое значение связано с обрядовой игрой. В украинских весенних ритуалах Кострубом называли чучело мужчины, которое сжигали во время праздничных девичьих плясок. Так могли прозвать ребёнка, родившегося в эту пору, либо весёлого плясуна и балагура. Вторая версия — от значения «хищный, ловкий»: такое прозвище мог получить человек с соответствующими чертами характера. Третье, самое бытовое значение — «неряха, грязнуля». Если прозвище пошло отсюда, оно указывало на неопрятность и неаккуратность обладателя.

Фамилия образована по стандартной русской модели с патронимическим суффиксом -ов, который в данном случае означает «сын Коструба». Примечательно, что, хотя прозвище украинское, фамилия закрепилась именно в русской форме — Кострубов, а не, скажем, Кострубенко или Кострубский. Это говорит о том, что носитель фамилии или его предки могли переселиться из малороссийских земель в великорусские губернии, где фамилию подстроили под местную словообразовательную норму.

В отличие от многих фамилий, образованных от одного корня, у Кострубова нет единого, бесспорного толкования. Все три версии — обрядовая, «хищная» и бытовая — равноправны, и понять, какая из них верна для конкретной семьи, без генеалогических изысканий невозможно. Географически фамилия встречается в Курской, Белгородской и Воронежской областях, то есть в зоне исторического смешения русских и украинских говоров, что подтверждает её пограничное происхождение.