Фамилия Шкарубова — женская форма мужской фамилии Шкарубов, и её разбор лучше начать с корня, который почти наверняка связан с украинским или южнорусским словом «шкарба» или «шкарб». В диалектах и в украинском языке «шкарб» — это имущество, пожитки, скарб, а также клад или богатство. Соответственно, Шкаруб — это человек, который имел отношение к имуществу: возможно, зажиточный хозяин, скопидом, а может быть, и тот, кто ведал казной или хранил общее добро. Суффикс -ов/-ев указывает на типичную модель русских фамилий: Шкарубов — сын Шкаруба, то есть потомок человека с таким прозвищем.

У фамилии есть одна особенность, которая отличает её от многих «имущественных» фамилий. В русском языке чаще встречаются фамилии от слова «скарб» (Скарбов, Скарбунов), а форма «Шкаруб» с начальным «ш» и суффиксом -уб указывает на юго-западное происхождение. Это характерно для фамилий, возникших на территории современной Украины, Беларуси или в пограничных с ними областях России (Курская, Брянская, Воронежская губернии). Там же слово «шкарб» могло звучать как «шкарба» (собирательное), и прозвище Шкаруба давали либо бережливому хозяину, либо, с иронией, бедняку, у которого весь скарб — одна сума.

Менее вероятная, но возможная версия связывает фамилию с румынским или молдавским влиянием. В молдавском языке «шкоарбэ» (școarbă) означает кору, лыко, а в переносном смысле — нечто грубое, неотёсанное. Если предки носителя фамилии жили в Бессарабии или на юге Украины, прозвище Шкаруба могло означать «простак» или «человек в лаптях». Однако эта версия слабее: ареал фамилии Шкарубовы (и Шкаруба) в основном охватывает Полтавскую, Харьковскую и Черниговскую области, где говорят на украинском, а не на молдавском.

В словообразовательном плане фамилия примечательна тем, что не имеет дополнительных суффиксов, кроме патронимического -ов. Это говорит о том, что прозвище Шкаруб было устойчивым и конкретным: его не переделывали в уменьшительную форму (Шкарубенко, Шкарубский), а просто добавили стандартное «чей?» окончание. Встречается также вариант Шкарубин, но он редок и образован по другой модели (от основы Шкаруба с суффиксом -ин).

Итак, для человека с фамилией Шкарубова наиболее вероятная история предков: они жили в малороссийских губерниях Российской империи, и их родоначальник получил прозвище по отношению к имуществу — либо как бережливый хозяин, либо как тот, кто ведал общим скарбом. Сословно это могли быть казаки, мещане или государственные крестьяне. Дворянских родов с такой фамилией в официальных родословных книгах не зафиксировано, что подтверждает её народное, прозвищное происхождение.