Фамилия Богайцева — женская форма мужской фамилии Богайцев. Это отчество второго порядка, то есть «внучья» фамилия: её получили дети или внуки человека по имени или прозвищу Богаец (или Богай). В русской традиции фамилии на -цев, -цов образуются от прозвищ, оканчивающихся на -ец: Богаец → сын Богайца → Богайцев. Модель продуктивная, но конкретно эта фамилия встречается нечасто.

Корень — «бог-», что сразу наводит на мысль о религиозном прозвище. Однако в русских говорах слово «богаец» не зафиксировано как нарицательное. Скорее всего, это вариант прозвища Богай, которое могло означать «богатый человек». Переход «г» в конце корня в «г» в суффиксе — норма для фамилий: ср. Богатов и Богайцев. Если исходной формой было Богай (от «богатый»), то Богаец — это его уменьшительная или пренебрежительная форма, как Богач → Богачец.

Есть и другая версия: прозвище Богаец могло быть образовано от глагола «богать» — в диалектах «бодать», «толкать», «бить». Тогда Богаец — это «бодливый», «драчун», человек с крутым нравом. Версия менее вероятна, потому что фамилия явно тяготеет к южнорусским и украинским землям, где корень «бог-» в значении «богатство» распространён шире.

Географически Богайцевы встречаются в Воронежской, Ростовской областях и на Кубани. В XIX веке фамилия фиксируется среди государственных крестьян и однодворцев — потомков служилых людей южной пограничной полосы. Сословный состав однородный: это не дворянская и не купеческая фамилия, а крестьянская или казачья.

Однокоренные фамилии — Богай, Богайчук, Богайченко, Богайцев. Все они восходят к одному прозвищному гнезду, но различаются суффиксами: украинские формы на -чук, -енко указывают на сына или потомка, а русская на -цев — на внука.