Оно, предположительно, берет начало от литовского глагола peĭzoti, которое в переводе на русский язык означает «порицать». Так могли назвать человека, который любил давать советы и критиковать. Возможно также, что прозвище Пейзе восходит к одноименному топониму. Так называется несколько мест, например, населенный пункт в бывшей Восточной Пруссии. Можно предположить, что прозвище Пейзе получил выходец из местечка Пейзе.