Фамилия Кармаков — одна из тех, что хранит в себе отголосок старинного промысла. В её основе лежит прозвище Кармак, которое, по самой убедительной версии, восходит к древнетюркскому слову karmak — «удочка». Это слово пришло в русские говоры и закрепилось там с узким, специальным значением: так называли крючковую снасть, которой без наживки ловили красную рыбу. Человек, получивший прозвище Кармак, скорее всего, был либо рыбаком, промышлявшим этим способом, либо мастером, который делал такие снасти на продажу.

Модель образования фамилии проста и типична для русского севера и центра: суффикс -ов присоединился к прозвищу, чтобы обозначить принадлежность — «сын Кармака» или «из семьи Кармака». В этом смысле фамилия Кармаков стоит в одном ряду с Топорковым (от «топор»), Крюковым или Багровым — все они указывают на орудие труда, ставшее именем предка.

Интересно, что тюркское происхождение корня не делает фамилию редкой или поздней. Подобные заимствования активно входили в русский быт ещё в домонгольский и ордынский периоды, особенно в южных и поволжских землях, где контакт с тюркскими народами был постоянным. Кармаковы могли жить как на Дону или Волге, где рыболовство было основой хозяйства, так и в более северных областях — прозвище могло перейти с переселенцами.

Других версий происхождения, которые имели бы под собой серьёзную лингвистическую основу, нет. Связывать фамилию с карманом или с глаголом «каркать» — ошибка, вызванная случайным звуковым сходством. Ни одна из этих гипотез не выдерживает проверки ни по словообразованию, ни по исторической семантике.