Фамилия Хмыльнин — редкий случай в русской ономастике, где прозвищная основа не лежит на поверхности и заставляет задуматься. В отличие от большинства фамилий на -ин, образованных от имён или профессий, здесь мы имеем дело с диалектным, звукоподражательным или переносным значением. Скорее всего, в основе лежит глагол «хмылить» — в северных и сибирских говорах это значит «улыбаться, усмехаться, хихикать». Хмыльня — человек, который часто хмыкает, посмеивается в усы, либо тот, кто склонен к ироничной, незлобной усмешке. Прозвище Хмыльня мог получить весёлый или хитроватый мужик, а суффикс -ин стандартно превратил его в фамилию: «чей?» — Хмыльнина, то есть потомок Хмыльни.

Вторая, менее вероятная версия — связь с диалектным «хмыль» (пьяный, хмельной человек). Но здесь важно различие: «хмель» даёт фамилии Хмелёв, Хмельницкий, а «хмыль» — это уже местное искажение или параллельная форма. Если бы основа была «хмыль» в значении «пьяница», фамилия звучала бы как Хмылёв. Форма Хмыльнин указывает именно на прозвище с суффиксом -ня, а не на прямое имя нарицательное.

Обратим внимание на суффикс -нин, который встречается реже, чем -ин, и часто указывает на северное или уральское происхождение. В переписях XVII–XVIII веков фамилии на -нин были характерны для Вятки, Перми, Архангельской губернии. Поэтому Хмыльнин — фамилия с чёткой региональной привязкой: предки могли быть крестьянами или посадскими людьми из северорусских земель.

В письменных источниках фамилия встречается нечасто, но фиксируется в метрических книгах Вятской губернии XIX века. В словаре Веселовского и Никонова прямых упоминаний нет, что подтверждает её локальный характер. Однокоренные фамилии — Хмылёв, Хмырин — тоже редки и различаются по модели: Хмылёв от «хмыль» (пьяный), Хмырин от «хмыра» (угрюмый человек). Хмыльнин стоит особняком, сохраняя оттенок усмешки, а не хмурости.

Итог: фамилия Хмыльнин образована от прозвища Хмыльня со значением «улыбчивый, усмешливый человек», распространена преимущественно на Русском Севере, и её носители — потомки людей, получивших прозвище за весёлый или ироничный нрав.