Фамилия Сермягин происходит от прозвища Сермяга, которое, в свою очередь, восходит к нарицательному слову «сермяга». Так на Руси называли грубое некрашеное крестьянское сукно домашней выделки, а также одежду, сшитую из него. Отсюда прямой ответ на вопрос о происхождении: фамилию образовали от прозвища, которое носил предок, а сама основа прозвища — ремесло или характерная одежда.

Слово «сермяга» известно в русском языке с XV века, и это важная деталь: она позволяет отнести возникновение прозвища к достаточно раннему периоду, когда подобные именования еще не были фамилиями, а лишь приметами человека. Сермяга была распространена по всей России, но в разных регионах имела свои особенности. Например, в Рязанской губернии так называли распашную одежду из белого сукна домашней выработки — с прямыми цельными полками, такой же спинкой, длиной ниже колен и короткими рукавами, без застежки. Любопытно, что в этой местности сермягу носили исключительно женщины: зимой ее накидывали поверх полушубка, летом — поверх рубахи. Эта региональная деталь показывает, насколько многозначным был термин: в одном случае он указывал на ткань, в другом — на конкретный предмет гардероба.

Вероятнее всего, прозвище Сермяга относилось к профессиональным именованиям. Так могли назвать мастера, который шил одежду из сермяги, или человека, который ее ткал. Менее правдоподобно, хотя и не исключено, что прозвище закрепилось за тем, кто просто постоянно носил такую одежду, — но в этом случае именование носило бы скорее бытовой, чем профессиональный оттенок. Слабая версия о том, что прозвище могло быть связано с бедностью человека (ведь сермяга — одежда простолюдинов), не выдерживает критики: для XV–XVII веков это был обычный материал, а не признак нищеты, поэтому ремесленная трактовка выглядит убедительнее.

Словообразовательная модель фамилии проста и типична для русских фамилий: к основе Сермяга добавили суффикс принадлежности -ин, который указывает на родство. Сермягин буквально означает «сын Сермяги», «тот, кто из рода Сермяги». Такая модель характерна для прозвищ, оканчивающихся на гласный, и широко представлена в русской ономастике.

Прозвище Сермяга закрепилось за человеком как наиболее употребительное именование, а со временем легло в основу фамилии. Потомки того, кого в округе знали как Сермягу, постепенно стали писаться Сермягиными. Сама фамилия не относится к числу дворянских или книжных — она вышла из крестьянской и посадской среды, где прозвища по ремеслу и одежде были обычным делом.