Фамилия Килимов — редкий случай, когда в основе лежит не имя и не ремесло, а, скорее всего, прозвище, связанное с тюркским или арабским корнем. Самая прямая версия отсылает к тюркскому слову «килим» — так называют безворсовый ковёр ручной работы. В таком случае прозвище Килим мог получить ткач, торговец коврами или человек, чья одежда или дом были приметны из-за ярких, «ковровых» узоров.

Слово «килим» пришло в тюркские языки из персидского, а в русские говоры попало через контакты с татарами, башкирами или народами Кавказа. Суффикс -ов указывает на типичную русскую модель образования фамилий: «чей?» — «сын Килима». То есть фамилия закрепилась в среде, где русское окончание накладывалось на иноязычную основу. Встречается она преимущественно в Поволжье, на Урале и в Западной Сибири — в регионах, где исторически жили татары и башкиры, а также шла активная метисация населения.

Менее вероятная, но допустимая версия — от арабского имени Калим (что значит «говорящий», «оратор»). В тюркской среде имя могло звучать как Килим, а фамилия образовалась с тем же суффиксом. Однако арабская основа в фамилии Килимов встречается реже, чем тюркская «ковровая» — уж очень конкретное и бытовое слово «килим» даёт более естественное объяснение.

Интересно, что у фамилии нет распространённых однокоренных «родственников» вроде Килимников или Килимцев. Это говорит о том, что прозвище не перешло в нарицательное ремесло, а осталось личным. Носители фамилии — скорее всего, потомки одного человека, которого когда-то прозвали за связь с коврами, будь то профессия или просто заметная черта.