Фамилия Кармильчиков — редкий пример, где за неброской формой скрывается неочевидная основа. На первый взгляд кажется, что здесь корень «кармил», но на деле фамилия образована от прозвища или профессии, связанной с кармилом — старым названием одной из разновидностей корабельного такелажа или, что вероятнее, с искажённым «кармильщик». В словарях русского языка XIX века «кармить» означало «снабжать, кормить, содержать», а «кармильщик» — кормилец, добытчик, тот, кто обеспечивает пропитание. Однако в контексте фамилии более правдоподобна версия, что в основе лежит тюркское или арабское имя Кармил (от араб. «карим» — щедрый, благородный) с последующим русским суффиксом -чик-, который обозначал принадлежность к определённому роду занятий или характерный признак.

Суффикс -ов в конце — классический патронимический (притяжательный) показатель, типичный для центральных и северных регионов России. Фамилия Кармильчиков буквально означает «сын Кармильчика» или «потомок того, кого звали Кармильчик». Форма на -ов, а не на -ин, указывает, что основа прозвища заканчивалась на твёрдый согласный: Кармильчик → Кармильчиков.

Сложность в том, что фамилия не зафиксирована в крупных справочниках по русским фамилиям — ни у Унбегауна, ни у Никонова. Это говорит о её локальном бытовании. Вероятнее всего, она возникла в среде крестьян или посадских людей южнорусских или поволжских губерний, где было сильное тюркское влияние. Там имя Кармил или прозвище Кармильчик могло быть адаптировано как «маленький кормилец» или «щедрый человек». Другая, более прозаичная версия: «кармильчик» — диалектное название человека, который занимался чисткой или ремонтом кармилов (особых верёвок для оснастки судов). В этом случае предок был мастеровым на верфи или речном промысле.

Таким образом, у фамилии два равновероятных пути: либо она восходит к личному имени с положительной характеристикой (щедрый, кормилец), либо к забытому ремеслу, связанному с корабельным делом. Выбор между ними зависит от того, в какой местности жили первые Кармильчиковы — в земледельческой или судоходной.