Фамилия Каруков — редкий случай, когда суффикс -ов наслаивается на прозвище, которое почти наверняка связано с тюркским корнем. Основа «карук» или «карык» в тюркских языках означает «старый, дряхлый, изношенный» (ср. татарское «кару» — старость, «карык» — старик). Прозвище Карук могли дать человеку, который выглядел старше своих лет, или же тому, кто в молодости казался мудрым и степенным не по годам. В русской среде к тюркскому прозвищу добавили типичный патронимический суффикс -ов, и получилась фамилия, означающая «сын Карука».

Есть и вторая, менее вероятная версия — от имени Каруко, которое встречается у осетин. В осетинском языке «кару» означает «кирка, мотыга», а «карук» — «мотыжник» (человек, работающий мотыгой). В этом случае фамилия могла произойти от прозвища земледельца или ремесленника, но географическое распространение осетинских фамилий узкое, и встретить Карукова на Кавказе можно, но редко.

География фамилии Каруков сегодня размыта: она встречается в Поволжье (особенно в Татарстане и Башкортостане), на Урале, изредка в центральных областях России. Это говорит в пользу тюркской версии — именно в волго-уральском регионе смешение тюркских прозвищ с русскими фамильными суффиксами было массовым явлением в XVI–XVIII веках. Фамилия не дворянская, не купеческая: скорее всего, предки Каруковых были крестьянами или мещанами, получившими фамилию после отмены крепостного права. В отличие от однокоренных фамилий (Карымов, Каримов), Каруков сохранил более архаичную огласовку корня, что может указывать на раннее закрепление прозвища.