Фамилия Кастарной — редкий случай, когда написание подсказывает происхождение точнее, чем звучание. Ударение, скорее всего, на последнем слоге, а окончание -ой выдает старую русскую форму прилагательного мужского рода (ср. Толстой, Блаженной, Кривой). В современном языке такое окончание закрепилось в основном за фамилиями, а в прошлом это была полная форма прилагательного, отвечавшая на вопрос «какой?». Значит, Кастарной — это человек, которого так прозвали по характерному признаку или роду занятий.

Основа фамилии — «кастар». Самое прямое объяснение лежит на поверхности: это искаженное «кустарь» (ремесленник, работающий на дому). В русских говорах, особенно южных и центральных, «кустарь» мог произноситься как «кастарь» или «кастар» — с аканьем и утратой мягкого знака. Тогда Кастарной — то же, что Кустарной, то есть «кустарный мастер». Человек мог получить такое прозвище, если шил сапоги, плел корзины, делал бочки или занимался другим надомным промыслом. Фамилия прямо указывала на его место в экономике: не фабричный рабочий, а самостоятельный ремесленник.

Есть и вторая версия, менее очевидная, но имеющая право на существование. В некоторых говорах «кастара» или «кастыра» означало сварливого, вздорного человека, задиру. В словаре Даля зафиксировано слово «кастырить» — делать назло, пакостить. Прозвище Кастара могли дать человеку с тяжелым характером, и фамилия Кастарной образовалась бы от этого прозвища по той же модели. Однако первая версия — ремесленная — кажется более правдоподобной, так как прозвища по профессии встречались в разы чаще, чем по отрицательным чертам характера, и легче закреплялись в качестве фамилии.

Суффикса в привычном понимании (как -ов или -ин) здесь нет. Фамилия образована напрямую от прозвища с помощью окончания -ой, которое играет роль суффикса прилагательного. Это архаичный, но очень распространенный в XVII–XVIII веках способ создания русских фамилий, особенно в среде крестьян и посадских людей. Географически фамилия Кастарной (и ее варианты Кастаров, Кустарной) тяготеет к южнорусским областям — Курской, Орловской, Воронежской, где аканье было нормой и где кустарные промыслы (гончарный, бондарный, кожевенный) кормили целые деревни.

В метрических книгах XIX века фамилия встречается в единичных записях, преимущественно у государственных крестьян. Это подтверждает, что предки носителя фамилии были не дворянами, а людьми «простого звания», чья фамилия честно описывала их главное занятие.