Оно ведет свое начало от немецкого прилагательного klein - «маленький». Вероятно, прозвище отражало особенности внешности основателя фамилии (низкий рост, худоба, миниатюрность). Кроме того, Клейном могли прозвать также самого младшего из мужчин в семье.