Фамилия Сермяга — редкий случай, когда прозвище перешло в фамилию практически без изменений, минуя типичные суффиксы -ов, -ин или -ский. Это так называемая «неоформленная» фамилия, то есть образованная напрямую от нарицательного слова и закрепившаяся в виде чистой основы. Встречается она преимущественно на северо-западе России, в бывших новгородских и псковских землях, а также среди белорусов.

В основе лежит слово «сермяга» — так называли грубое, некрашеное домотканое сукно из шерсти, а также верхнюю крестьянскую одежду из него (сермяжный кафтан). Сермягу не красили, ткали из натуральной серой или бурой шерсти, отсюда и цветовая ассоциация с «серым». Прозвище Сермяга могли дать человеку, который постоянно ходил в такой одежде, ткал её или торговал ею. По сути, это аналог фамилий типа Лаптев или Зипунников, но с более локальным и архаичным корнем.

Интересно, что слово «сермяга» и однокоренное «сермяжный» в переносном смысле означали «бедный», «незатейливый», «простонародный». В дворянской и городской среде сермягу презирали, отсюда выражение «сермяжная правда» — грубая, но честная. Поэтому прозвище Сермяга, скорее всего, носило не уничижительный, а описательный или даже пренебрежительно-ироничный характер, но закрепилось за конкретным родом.

Суффикса в фамилии нет: окончание -а — это флексия женского рода в именительном падеже, но сама фамилия склоняется как существительное мужского рода (Сермяга, Сермяги, Сермяге). Такая модель характерна для древних прозвищ, которые не успели «обрасти» патронимическими суффиксами к моменту, когда фамилии стали наследственными. Встречаются также варианты Сермягин и Сермяжкин — они как раз образованы по стандартной модели, но исходная форма Сермяга — самая старая.

В ономастических источниках фамилия нечастотна. В словаре Б. Унбегауна она упоминается в ряду прозвищ от названий одежды, без детальной географической привязки. Встречается в писцовых книгах XVI–XVII веков по Новгороду и Пскову, что подтверждает её северное происхождение. Носители фамилии Сермяга — это, как правило, потомки крестьян или посадских людей, занимавшихся сукноделием или носивших характерную одежду.