Фамилия Ольвинские — редкий случай, когда географическая основа почти наверняка перевешивает личное прозвище или имя. В отличие от большинства русских фамилий на -ский, которые образованы от названий сёл или усадеб, здесь корень отсылает к античному миру. Ольвия — древнегреческая колония на берегу Южного Буга, существовавшая с VI века до н. э. до III–IV веков н. э. Если предок получил фамилию по месту жительства, то логичнее предположить, что он происходил не из самой Ольвии (города давно не было), а из села или хутора, названного в честь раскопок или просто по моде на классическую древность. Такие топонимы встречаются на юге Украины, особенно в Николаевской области, где находятся развалины Ольвии.

Фамилия образована по стандартной модели: основа «Ольвин-» плюс типичный дворянский или шляхетский суффикс -ск(ий). Окончание -ие (множественное число) указывает на то, что фамилия изначально принадлежала роду в целом — «Ольвинские» как «те, кто из Ольвина». В польской традиции такие фамилии часто закреплялись за мелкой шляхтой, владевшей одноимённым имением. В русской среде — за духовенством или дворянами, получившими фамилию по семинарскому прозвищу или по названию пожалованного поместья.

Есть и более прозаичная версия: основа могла произойти от прозвища Ольвин — человека, который либо увлекался античностью, либо имел отношение к археологическим раскопкам в XIX веке, когда Ольвия активно исследовалась. Однако для массового закрепления фамилии это слишком редкое обстоятельство. Правдоподобнее, что предок Ольвинских был мелкопоместным дворянином, чьё родовое гнездо называлось Ольвино или Ольвинка — такие названия фиксируются на картах Херсонской и Екатеринославской губерний.

Фамилия не входит в число распространённых, встречается спорадически. В дореволюционных источниках её носители — преимущественно обедневшие дворяне южных губерний. После революции часть рода могла утратить документы и сменить написание на более простое, например, Ольвинский, но форма множественного числа сохранилась у тех, кто помнил о родовом статусе.