Фамилия Покалуй не входит в число самых распространённых русских фамилий, но её происхождение угадывается почти сразу — в основе лежит глагол «покаловать» (или «покаловать» в северных говорах), то есть «пожалеть», «помиловать», «проявить милость». В старом русском языке «покалуй» — это форма повелительного наклонения: «пожалей», «сжалься». Фамилия образовалась от прозвища, которое человек мог получить за характер — мягкий, жалостливый, склонный к снисхождению, либо, напротив, иронично, за частые просьбы о пощаде.

Суффикс -уй в фамилии Покалуй — редкая и показательная деталь. В русской антропонимии повелительные формы глаголов, ставшие прозвищами, нередко застывали в фамилиях без дополнительных суффиксов (сравните: Сгибнев, Держи, Тяни). Однако здесь мы видим именно форму на -уй, что характерно для северо-западных и северных говоров, где «покалуй» звучало естественнее, чем литературное «пожалуй». Такая модель типична для прозвищ-команд или прозвищ-пожеланий: Покалуй, Помилуй, Прощай, Спасибо.

Встречается фамилия преимущественно в центральных и северных областях России, особенно в Вологодской, Архангельской и Костромской губерниях по данным переписей XIX века. В этих краях слово «покаловать» бытовало в значении «пожалеть, оказать милость», что подтверждается диалектными словарями. Носители фамилии не принадлежали к какому-то одному сословию — Покалуями могли записать и крестьянина, и мещанина, и церковнослужителя, поскольку прозвище не указывало на ремесло или социальный статус, а описывало личную черту.

Интересно, что фамилия Покалуй могла возникнуть и как охранительное имя. В народной традиции ребёнку давали прозвище с уничижительным или просительным оттенком, чтобы обмануть злых духов: мол, дитя такое жалкое, никчёмное, не стоит их внимания. «Покалуй» в этом смысле — «пожалей, не тронь». Версия рабочая, но менее вероятная, поскольку прямых подтверждений в этнографических источниках именно для этой фамилии нет; чаще такую модель связывают с именами вроде Ненаш, Неждан, Помилуй.

Среди однокоренных фамилий — Покаляев, Покалев, Покалов, а также более редкая Покалуев. Все они восходят к тому же глагольному корню, но с разными суффиксами. Покалуй стоит особняком благодаря сохранению чистой глагольной формы без наращения -ов или -ев, что делает её более архаичной и диалектной по звучанию. В современном русском языке фамилия воспринимается как прозрачная, хотя её точное значение уже не лежит на поверхности: люди скорее вспомнят слово «пожалуйста», чем исходный глагол «покаловать».