Фамилия Шерметовы образована по самой распространённой в русском языке модели: от основы на согласный с помощью патронимического суффикса -ов. Это значит, что в основе лежит либо нецерковное имя, либо прозвище родоначальника — Шермет. Вопрос в том, что это слово означало.

Наиболее вероятная версия — тюркское происхождение. В тюркских языках (татарском, башкирском, казахском) встречается имя или прозвище Шермет (Şermet), которое можно разложить на две части: «шер» — лев и «мет» — меткий, бьющий. Получается «меткий лев» или «лев-стрелок» — образ сильного и точного воина. Такие имена были распространены в среде служилых татар и башкир, которые после присоединения Поволжья к Московскому государству поступали на русскую службу. Их потомки получали земли и постепенно входили в состав русского дворянства, однодворцев или крестьян. Фамилия Шерметовы могла закрепиться за такими родами, особенно в южных и восточных регионах России.

Вторая версия, менее убедительная, связывает фамилию с русским диалектным словом «шерметь» — так в некоторых говорах называли мелкую рыбёшку или, в переносном смысле, невысокого, шустрого человека. Скорее всего, это народное переосмысление уже существовавшей тюркской фамилии.

Географически фамилия Шерметовы встречается в Поволжье, Приуралье и Западной Сибири — как раз в зоне активных контактов с тюркскими народами. В дореволюционных метрических книгах и ревизских сказках носители фамилии записаны в Оренбургской, Уфимской и Казанской губерниях.

Есть и фамилия Шереметевы, которая звучит похоже, но имеет, скорее всего, другое происхождение — от тюркского «ширин-мет» (сладкий, приятный) или даже от иранского. Шерметовы — более редкий и локальный вариант, в котором корень «шер» (лев) прослеживается чётче.