Фамилия Чермидов — редкая, и её происхождение не лежит на поверхности. В ней нет привычного указания на профессию или распространённое крестильное имя. Ключ к разгадке — в основе «чермид», которая с большой вероятностью восходит к тюркскому слову «чермиш» или «чермис». Так в старину называли марийцев (устаревший этноним «черемисы»). В русском языке при адаптации иноязычных слов звук «ш» мог переходить в «д» (ср. «кишмиш» и диалектное «кишмид»). Таким образом, прозвище Чермид мог получить человек, имеющий отношение к марийцам: либо по национальности, либо по месту жительства среди них.

Модель образования проста: к основе «Чермид» добавился типичный русский патронимический суффикс -ов. Фамилия буквально означает «сын (или потомок) Чермида». Это указывает на то, что прозвище было дано родоначальнику, а затем закрепилось за его детьми как наследственное имя.

Стоит рассмотреть и менее вероятную версию: связь с арабским именем Чармуд или Шармуд, означающим «щедрый», «благородный». Однако для русской фамилии такая основа нетипична. В пользу тюркской версии говорит и география: фамилия Чермидов встречается в Поволжье и на Урале — в зоне активных контактов русских с марийцами и другими финно-угорскими народами. Именно там прозвище по этническому признаку было наиболее вероятно.

С точки зрения словообразования фамилия относится к продуктивной группе на -ов, но её уникальность — в редкой основе. В отличие от массовых Ивановых или Кузнецовых, Чермидовых немного, и носители, скорее всего, имеют общие корни в одном из регионов исторического расселения черемисов.