Фамилия Костаев — редкая и неоднозначная с точки зрения происхождения. Её основа «Кост-» может восходить к разным корням, и выбор правильной версии зависит от того, в какой среде и где она возникла. Самая вероятная версия — тюркская, от мужского имени Кост (или Косай), которое в разных тюркских языках могло означать «безбородый» или «безусый» (от «кос» — без волос). В таком случае суффикс -аев указывает на отчество: Костаев буквально значит «сын Костая». Это типичная модель для фамилий тюркского происхождения, особенно среди башкир, татар, казахов и народов Кавказа. Вторая версия, менее распространённая, но тоже возможная, — русская, от прозвища Кост или Коста. В русских говорах «коста» — диалектное название кости, костлявого человека или, по другой версии, скупого (от «костить» — бранить, скупиться). Фамилия могла возникнуть в среде, где прозвища давали по внешности или характеру. Однако суффикс -аев для русских фамилий нетипичен: в центре России чаще встречаются Костов или Костин. Поэтому тюркская версия выглядит убедительнее, особенно если учесть, что фамилия Костаев встречается в Осетии, Ингушетии и Чечне, где имя Кост (Косай) известно. В осетинском языке «кост» означает «козёл», но это скорее случайное совпадение, нежели прямая основа: прозвище Козёл давало бы фамилию Цаев или Цопанов, а не Костаев. Таким образом, носитель фамилии Костаев, скорее всего, потомок человека по имени Кост или Косай из тюркоязычной или кавказской среды. В русском контексте фамилия могла возникнуть как редкий случай адаптации тюркского отчества, но не как исконно русская.