Фамилия Каркос образована от аналогичного прозвища, которое, согласно одной из версий, произошло от эстонского слова kark, что в переводе на русский язык означает «костыль». В таком случае, такое прозвище Каркос получил хромой человек, передвигавшийся при помощи костыля. Но основателя рода могли прозвать Каркосом и из-за того, что он был продавцом костылей или занимался их изготовлением. Согласно другой версии, прозвище Каркос восходит к коми слову «керка», которое означает «изба, избушка». Согласно этому, прозвище Каркос указывало на место жительства предка.