Фамилия Коростей — одна из тех, где сразу заметен редкий суффикс. Обычно русские фамилии заканчиваются на -ов, -ев, -ин или -ский, но здесь мы видим -ей. Это указывает на то, что перед нами не патроним (не «чей-то сын»), а усечённая форма прозвища или имени. Скорее всего, основой послужило слово «короткий» или «коротыш». В старых говорах «коростей» могли называть невысокого человека, либо того, кто носил короткую одежду или имел какую-то «короткую» особенность — например, короткую речь или нрав. Версия с прилагательным «короткий» — самая прямая и правдоподобная.

Менее вероятно, но возможно, что фамилия связана с диалектным словом «короста» — так в некоторых регионах называли чесотку или струпья на коже. Если прозвище Коростей дали человеку с такой болезнью, это могло закрепиться как фамилия. Однако в пользу «короткого» говорит большее число однокоренных фамилий — Коротеев, Коротицкий, Коротаев — все они восходят к тому же корню «корост-»/«корот-». Коростей стоит в этом ряду, но с другим суффиксом, что делает её более редкой.

Географически фамилия встречается в основном на западе и юге России, особенно в Курской, Белгородской и Воронежской областях, а также на Украине. Это наводит на мысль, что прозвище могло возникнуть в южнорусских или украинских говорах, где «коросткий» — вариант слова «короткий». Носители фамилии в прошлом, скорее всего, были крестьянами или мещанами: фамилии на -ей редко встречались у дворянства, которое предпочитало более длинные формы на -ский.

Если сравнивать с другими фамилиями, то Коростей — не единственная с таким окончанием. Тот же суффикс мы видим в фамилиях Долгополей, Доброхотей, Кривошей — все они образованы от прозвищ-прилагательных. Модель простая: основа прилагательного плюс -ей, и фамилия готова. Так что Коростей — это «короткий» в чистом виде, только застывший в фамилии.