Фамилия Кильман — одна из тех, где за привычным для русского уха окончанием скрывается нерусская основа. Подавляющее большинство носителей этой фамилии в России — потомки немецких колонистов, переселившихся в империю в XVIII–XIX веках. Фамилия образована по типичной немецкой модели: личное имя или прозвище + суффикс -ман (Mann — «человек»). В данном случае основа — «Киль» (Kiel). Это может быть как указание на географическое происхождение (из города Киль в Гольштейне), так и сокращённая форма от имени Киллиан (Kilian) — католического святого, почитаемого в Германии. Второй вариант правдоподобнее для фамилий, которые закрепились в XVIII веке, когда имя Киллиан было ещё распространено среди немецких крестьян и ремесленников.

Русское окончание -ов, -ев или -ин у Кильман отсутствует, что сразу выдает фамилию как неадаптированную, вошедшую в обиход без переделки на славянский лад. Встречаются варианты написания: Кильманн (с двумя «н» на конце) — это более точная передача немецкого Kielmann, где двойная согласная подчёркивает фамильный характер (в отличие от простого указания на происхождение). В метрических книгах лютеранских приходов Поволжья и Причерноморья фамилия фиксируется с середины XIX века, чаще всего у колонистов-ремесленников: столяров, плотников, мельников. Прозвище могло закрепиться за человеком, который либо приехал из Киля, либо работал с килем (нем. Kiel — «киль корабля») — но эта версия менее вероятна для земледельческих колоний, где судостроение не было основным занятием.

С точки зрения словообразования, фамилия Кильман стоит в ряду других немецких фамилий на -ман, осевших в России: Шульман, Циммерман, Фишман. Отличие в том, что корень «Киль» не имеет очевидного бытового значения в русском языке, поэтому фамилия не обросла народными переосмыслениями (в отличие от того же Фишмана, которого могли «перевести» как Рыбкин). В дореволюционных документах встречается и форма «Кильманов» — так могли записать сына или внука немца-переселенца в русскоязычной среде, но массового распространения этот вариант не получил. Сегодня фамилия встречается в основном на юге России, в Поволжье и в Сибири — там, куда ссылали или добровольно переезжали немецкие семьи в XX веке.