Фамилия Шербина звучит на слух как нечто острое, колкое — и это не случайно. В её основе лежит украинское или южнорусское слово «шербина» (или «щербина»), которое означало зазубрину, выбоину, щербину на лезвии или на краю предмета. Человек с таким прозвищем мог получить его за характерную внешнюю примету — например, за щербатый рот, то есть отсутствие одного или нескольких зубов. В старину это была наглядная, бытовая характеристика, которую не считали обидной, а использовали как опознавательный знак.

Словообразовательная модель здесь проста и прозрачна: суффикс -а указывает на принадлежность к женскому роду в исходном прозвище (Шербина), но сама фамилия закрепилась в мужском роде и склоняется как существительное. Это так называемая «украинская» модель фамилий без типичных русских суффиксов -ов/-ев. В русской традиции от того же корня пошли бы Щербаков или Щербинин, но Шербина осталась в форме прямого прозвища. Географически фамилия чаще всего встречается на Украине, в Белгородской, Курской и Воронежской областях — то есть в зоне смешения украинского и южнорусского говоров.

В ономастике существует и версия, что Шербина могла образоваться от слова «шерб» (устар. «шероховатый», «неровный»), но она менее убедительна: связь с «щербиной» — зубной или инструментальной — лежит на поверхности и подтверждается обилием однокоренных фамилий (Щерба, Щербатый, Щербак). Важно помнить, что в старых документах буквы «щ» и «ш» часто путали или заменяли, поэтому написание «Шербина» могло быть просто вариантом «Щербина».

В словаре Б. Унбегауна «Русские фамилии» указано, что фамилии на -ина от основ на -а характерны для украинской антропонимии и часто сохраняют исходное ударение на втором слоге (Шерби́на). Так что предки носителя этой фамилии, скорее всего, были людьми из крестьянской или казачьей среды, получившими прозвище по внешности — и не видели в этом ничего обидного, просто так закрепилось.