Фамилия Килиматов — редкий случай, когда основа, скорее всего, не русская, а тюркская, но оформлена по русской модели с помощью патронимического суффикса -ов. Это значит, что фамилию дали по отцу, которого в быту звали Килимат. Само имя Килимат — это вариант арабского имени Калимат, что переводится как «слова» или «речи». В мусульманской традиции это имя имеет глубокий религиозный оттенок: «Калимат Аллах» — одно из именований Корана, «Слово Божье». Со временем, в тюркских языках, звук «а» в начале мог перейти в «и» (явление сингармонизма), так и появилась форма Килимат.

География фамилии подсказывает, что искать её корни стоит в Поволжье или на Южном Урале, среди татар, башкир или казахов. Именно там тюркские имена с арабскими корнями массово превращались в русские фамилии после введения всеобщей паспортизации в XIX–XX веках. Суффикс -ов, а не -ин, указывает на то, что основа фамилии воспринималась как слово мужского рода, что типично для заимствованных имен.

Версия о происхождении от прозвища менее вероятна, но возможна. В некоторых тюркских диалектах «килимат» могло означать «красноречивый», «говорливый» или, наоборот, «болтун». Однако, учитывая, что имя Килимат (Калимат) зафиксировано в мусульманских именословах, религиозная версия выглядит убедительнее. Носители фамилии — потомки человека, которого нарекли редким именем с высоким смыслом, и эта духовная связь сохранилась в фамилии, перейдя из исламской традиции в русскую бытовую.