Фамилия Грейф имеет немецкие корни и, скорее всего, восходит к старинному верхненемецкому слову grīfe — «грифон». В средневековой Германии изображения животных или предметов часто служили домовыми знаками — эмблемами, которые вывешивали на фасадах домов. Обитатели такого дома нередко получали фамилию по тому, что было нарисовано на знаке. Поэтому можно предположить, что основатель рода Грейф жил в доме, который украшал грифон, или сам чем-то напоминал эту мифическую птицу — внешностью или чертами характера.

Существует и другая версия: прозвище Грейф могло произойти от глагола grīfen — «схватить». В этом случае фамилию могли дать цепкому, хваткому человеку, который умел добиваться своего. Обе гипотезы имеют право на существование, но первая, связанная с домовым знаком, выглядит более конкретной: в немецкой ономастике такие «гербовые» фамилии встречаются часто.

По своему типу фамилия Грейф — это «прозвищная» основа без типичных русских суффиксов (-ов, -ин), что указывает на её прямое заимствование в неизменном виде. В России такие фамилии чаще всего встречались у потомков немецких переселенцев, особенно среди колонистов Поволжья, где фамилии нередко фиксировались в оригинальном написании.