Фамилия Шарпалов — один из тех случаев, когда за привычным суффиксом -ов скрывается неочевидная основа. Вопреки интуиции, её вряд ли стоит связывать с глаголом «шарпать» (рвать, дёргать) — этот корень в русских говорах редок и не дал устойчивых прозвищ. Куда вероятнее, что в основе лежит диалектное слово «шарпа́» — так в южнорусских и украинских говорах называли человека невысокого роста, щуплого или юркого. Сравните с украинским «шарпати» — дёргать, что могло дать прозвище непоседе или суетливому человеку.

Модель образования проста: прозвище Шарпало (с типичным для южнорусских фамилий окончанием -о) плюс патронимический суффикс -ов. То есть Шарпалов буквально означает «сын Шарпала». Встречается фамилия преимущественно в Курской, Белгородской и Воронежской областях, что косвенно подтверждает её южнорусские корни. В украинской среде могла бы писаться как Шарпаленко, но на русской почве закрепился именно вариант на -ов.

Есть и альтернативная, менее убедительная версия: от тюркского «шарпал» — осколок, щепка, но она не подкреплена географией расселения носителей. Фамилия не относится к дворянским — её носителями в подавляющем большинстве были крестьяне и однодворцы южных губерний, где прозвища по внешним признакам были особенно распространены.

В документах XVII–XVIII веков форма Шарпало фиксируется среди служилых людей «по прибору» (стрельцов, казаков) на южных рубежах Московского государства. Таким образом, Шарпалов — фамилия, которая сохранила память о конкретном человеке, получившем прозвище за рост или характер, и о территории, где это слово было в ходу.