Фамилия Кильпякова — редкий пример, где за привычным русским окончанием скрывается финно-угорская основа. Вопреки ожиданию, её корни, скорее всего, не в славянском прозвище, а в мордовском дохристианском имени Кильпяк. Это имя связано с финским словом kilpa, что значит «состязание». Однокоренные слова в финских языках описывают соперника или бегущего наперегонки. Следовательно, первый носитель имени Кильпяк мог получить его за скорость, азарт или дух соревнования — такие мирские имена давали до крещения, чтобы отметить характер или способности человека.

Существует и альтернативная, но менее убедительная версия. Она выводит прозвище Кильпяк из немецкого Kilber — «животновод, разводящий овец». Если принять эту гипотезу, фамилия указывала бы на профессию предка. Однако связь с финно-угорскими языками выглядит правдоподобнее: во-первых, территория расселения мордвы — исторический регион, где подобные имена были обычны; во-вторых, слово kilpa имеет прямые параллели в языках соседних народов, тогда как немецкое влияние на прозвища в центральной России было точечным.

Сама фамилия образована по стандартной русской модели: к основе Кильпяк добавили суффикс -ов, а затем родовое окончание -а. Суффикс -ов указывает на принадлежность: «чей?» — Кильпяков, то есть сын или потомок Кильпяка. Так мордовское имя, пройдя через русскую фамильную формулу, превратилось в современную фамилию Кильпякова.