Фамилия Каростей — редкая, и её происхождение неочевидно. Первое, что бросается в глаза, — окончание -ей. В русских фамилиях такой суффикс встречается редко, чаще он характерен для украинских, белорусских или польских фамилий (например, Ковальчук, но есть и Карусь, Карусей). Скорее всего, основа «Карост-» восходит к прозвищу или имени, а -ей — это либо адаптированное окончание, либо часть более длинной фамилии, которая упростилась при записи.

Самая вероятная версия — связь со словом «карасть» или «карость». В русских говорах «карасть» означало «струп», «коросту» или «паршу» — кожное заболевание. Прозвище Карость могли дать человеку с заметными следами болезни на лице или руках. Такие прозвища были распространены: они не несли злого умысла, а служили бытовой приметой. Со временем прозвище Карость (или Каростей) закрепилось за потомками. Суффикс -ей мог возникнуть под влиянием украинского или белорусского произношения, где «кароста» — это и есть «короста». В этом случае фамилия означает «сын Каростя» или «тот, кто из рода Каростей».

Менее вероятная, но возможная версия — топонимическая. В Польше есть местечко Коростень (укр. Коростень), но фамилия Каростей к нему вряд ли относится напрямую. Однако если предки жили в районе с похожим названием, прозвище «Каростей» могло означать «выходец из Коростеня» — через диалектное искажение.

Фамилия не встречается среди дворянских родов и не фиксируется в старых боярских книгах. Это говорит о крестьянском или мещанском происхождении. По переписям XIX — начала XX века носители фамилии Каростей встречаются в Черниговской, Могилёвской и Гродненской губерниях — то есть на стыке современных Беларуси, Украины и Польши. Это подтверждает западнорусское или украинское происхождение.

Словообразовательно фамилия стоит особняком: в ней нет типичных русских суффиксов -ов, -ин, -ский. Это указывает на то, что фамилия закрепилась в той форме, в которой её записали при первой фиксации, возможно, уже в XIX веке. Если ваш предок носил фамилию Каростей, он, скорее всего, был выходцем из белорусских или украинских земель, а прозвище дали по внешней примете — следам кожной болезни. Сегодня фамилия чрезвычайно редка, и её носители — потомки тех самых людей из пограничья.