В его основе лежит немецкое прилагательное scharf, которое имеет несколько значений: «быстрый, резвый», «зоркий, проницательный», а также «решительный, категоричный». Вероятно, прозвище Шарф содержало указание на особенности характера и поведения основателя фамилии (активный, энергичный, внимательный, прозорливый, смелый).