Фамилия Килимниченко образована от прозвища Килимник, которое указывало на род занятий предка. В основе прозвища лежит слово «килим» — так называют шерстяной безворсовый двусторонний ковёр ручной работы. Узор килима создаётся плотным полотняным застилом цветных утков, скрывающих нити основы. Слово это тюркско-персидского происхождения, а сами килимы с геометрическими и цветочными узорами (реже с сюжетными изображениями) традиционно ткут на Украине, в Молдавии, а также в Польше, Болгарии и других странах.

Прозвище Килимник, скорее всего, получил мастер, который изготавливал такие ковры. Суффикс -ник в украинской и южнорусской традиции как раз закреплял человека за ремеслом или промыслом (ср. гончарник, бондарник). Фамилия Килимниченко строится по другой модели: суффикс -енко (в украинском языке — уменьшительно-патронимический) означает «потомок» или «сын» Килимника. То есть Килимниченко — это буквально «сын Килимника», и фамилия закрепилась за детьми или внуками того самого мастера-ковровщика.

Позже прозвище Килимник, изначально присоединённое к наследственному имени, полностью заменило его и в повседневной жизни, и в официальных документах. Фамилия Килимниченко бытует преимущественно в украинской среде, особенно в центральных и южных областях, где ковроткачество было развитым промыслом. Встречаются и родственные фамилии — Килимник, Килименко, Килимчук, но Килимниченко выделяется именно патронимическим суффиксом, который прямо указывает на происхождение от конкретного ремесленника.