Фамилия Олимпова — женская форма от Олимпов, а это почти наверняка искусственная, семинарская фамилия. В среде духовенства в XVIII–XIX веках было принято давать будущим священникам и их детям фамилии, образованные от торжественных, возвышенных понятий, имён античных богов или географических названий из классической мифологии. Олимп — гора в Греции, которую греки считали обителью богов. Такую фамилию мог получить воспитанник семинарии, которого наставники решили «возвысить» до небесного уровня, либо священник, служивший в храме, освящённом в честь Вознесения или Преображения — праздников, символически связанных с горой.

В отличие от большинства русских фамилий, которые произошли от мирских прозвищ или крестильных имён (Иванов, Кузнецов), Олимпов стоит в ряду таких же «классических» семинарских фамилий, как Аполлонов, Ахиллов, Церерин, Минервин. Суффикс -ов здесь стандартный, патронимический, но основа — не имя человека, а книжное, заимствованное слово. Ударение в фамилии, скорее всего, падает на первый слог: О́лимпова, хотя в разговорной речи нередко смещается на второй — Оли́мпова.

В народной среде эта фамилия не могла возникнуть: крестьяне или ремесленники не называли детей в честь греческой горы. Поэтому носители фамилии Олимповы — это почти поголовно потомки церковнослужителей, выпускников духовных академий и семинарий. Географически такие фамилии разбросаны по всей России, но чаще встречаются в центральных губерниях и в Поволжье, где были сильны духовные учебные заведения. Встречается также вариант Олимпиев — с суффиксом -ев, но Олимпов — более краткая и прямая форма.

Встречаются и другие версии, менее убедительные. Например, что фамилия могла произойти от редкого крестильного имени Олимп, которое бытовало в святцах (в честь мученика Олимпа). Но таких имён в народе почти не давали, а в семинариях их как раз охотно использовали для создания фамилий. Так что версия об искусственном происхождении — основная и наиболее обоснованная.