Фамилия Ярмухин на первый взгляд кажется простой по составу, но её основа ставит перед исследователем несколько вопросов. Это типичная русская фамилия, образованная по модели отчества: суффикс -ин указывает на принадлежность («чей?»), то есть Ярмухин — сын Ярмухи. А вот откуда взялось имя или прозвище Ярмуха, и есть несколько версий.

Самая прямая и правдоподобная версия связывает основу с крестильным именем Ермолай (в просторечии Ермол, Ермоха). В русской народной традиции имя Ермолай нередко сокращали до форм Ярмолай, Ярмоха, а от них уже пошли фамилии Ярмохин и Ярмухин. Чередование о/у в безударном положении — явление обычное для живой речи: Ярмоха и Ярмуха могли бытовать в одной местности. Если принять эту версию, то предок носителя фамилии был крещён как Ермолай. Греческое имя Ермолай означает «вестник народа» или «народный глашатай», но в быту оно давно утратило смысловую связь с переводом.

Вторая версия, менее распространённая, но тоже допустимая — происхождение от тюркского имени Ярмухаммет (Яр-Мухаммед). В татарской и башкирской среде компонент «яр» означает «друг, спутник» или «возлюбленный». Ярмуха — сокращение от этого составного имени. Однако фамилия Ярмухин встречается в основном в русских регионах, а не в национальных республиках, и суффикс -ин типичен для русской, а не татарской модели образования. Поэтому версия с Ермолаем выглядит надёжнее.

С точки зрения словообразования, фамилия Ярмухин — классический пример, когда прозвищная или уменьшительная форма имени (Ярмуха) закрепилась в документах как имя отца, а затем перешла в фамилию. Носители фамилии могли быть крестьянами или мещанами центральных и поволжских губерний России. Сословная принадлежность не устанавливается по одной фамилии, но суффикс -ин чаще встречается у непривилегированных слоёв населения. В целом, фамилия редкая, и её носители, скорее всего, ведут происхождение от конкретного человека по имени Ярмуха, который жил несколько веков назад.