Фамилия Ильмных — одна из тех, что сразу выдают географию. Её основа — не имя, не профессия, а конкретное место: озеро Ильмень в Новгородской области. Прозвище Ильмной давали человеку, который родился или жил на берегах этого огромного водоёма. В озеро впадает около пятидесяти рек, а вытекает только Волхов, несущий воды в Ладогу. Такая гидрографическая заметность делала Ильмень важным ориентиром для всего региона.

Сам гидроним, скорее всего, финно-угорского происхождения. Наиболее убедительная версия возводит его к Ilmeri — «небо», «воздушное пространство», «небесные силы». Есть и легенда о скифских князьях Словене и Русе, по которой озеро названо в честь их сестры Илмеры. Другое предположение связывает название с племенем меря, жившим на этих берегах. В любом случае, основатель рода Ильмных — человек из тех мест, а его фамилия закрепилась по модели, типичной для северных и уральских говоров: суффикс -ых указывает на принадлежность к дому или роду («из дома Ильмных»).

Есть и альтернативная версия, хотя она менее убедительна из-за редкого созвучия. Согласно ей, фамилия Ильмных — вариант написания фамилии Ильманых, которая восходит к имени Ильман. Это имя могло быть диалектной формой арабского Гильман («мальчик», «служитель рая») или же разговорным вариантом имени Илья, которое с древнееврейского переводится как «Господь — мой Бог». В народном сознании Илья заменил языческого громовержца Перуна, получив прозвище Громоносный. Однако гидронимическая версия кажется куда более естественной: озеро Ильмень — слишком заметный объект, чтобы не оставить следа в фамилиях местных жителей.