Фамилия Шерманин — одна из тех, где на слух угадывается иноязычная основа, но словообразовательная модель выдаёт русского человека, который эту основу адаптировал. В ней слышится что-то немецкое или еврейское, но суффикс -ин указывает на русскую патронимическую модель: «чей?» — Шерманин, то есть сын или потомок Шермана. Здесь нет ничего необычного: так же образованы фамилии Германин, Романин, Фоманин — от личных имён или прозвищ на -ан.

Корень Шерман- с высокой вероятностью восходит к немецкой фамилии Schirmann или Schermann. В немецком языке Schirmann — «щитоносец» или «защитник» (от Schirm — «щит, защита»), а Schermann — «стригальщик» (от scheren — «стричь»), например, стригаль овец или сукна. В обоих случаях это прозвище по занятию или по качеству, которое мог получить переселенец из немецких земель. В России такие фамилии нередко получали немцы-колонисты, приглашённые Екатериной II, или обрусевшие выходцы из Прибалтики. Однако суффикс -ин говорит о том, что фамилия закрепилась не в немецкой, а в русской среде: носителя звали Шерман, а его детей или слуг — Шерманины.

Менее вероятная, но допустимая версия — связь с еврейской фамилией Шерман, которая тоже встречается в России. В идише Sherman может означать «портной» (от scher — «ножницы»). Но и в этом случае русский суффикс -ин — признак того, что фамилия бытовала среди православного или обрусевшего населения, а не в замкнутой еврейской общине.

Географически фамилия редкая. По данным переписей и телефонных справочников, Шерманины встречаются в основном в центральных областях России и в Поволжье — там, где исторически селили немецких колонистов. Встречается также вариант Шерманов — с более распространённым суффиксом -ов, но Шерманин сохранил архаичную форму, указывающую на прямое родство с конкретным человеком по имени Шерман.

Таким образом, Шерманин — это русская фамилия с нерусским корнем, образованная по модели «чей сын». Предок носителя, скорее всего, был переселенцем из немецких земель или обрусевшим человеком с прозвищем Шерман, которое могло означать ремесло (стригаль, портной) или качество (защитник).