Скорее всего, фамилия Шмеркин происходит от имени Шмерка. Оно является краткой формой достаточно редкого еврейского имени Шмаръягу, что в переводе означает «охранил Бог». Менее вероятно, что в основе фамилии Шмеркин лежит прозвище Шмерка, образованное от немецкого слова Schmer - «мазь, смазка», «сало, жир». Таким образом, прозвище Шмерка мог получить человек, занимавшийся смазыванием различных деталей (например, колес). Также не исключено, что основатель рода Шмеркиных был полным человеком.