Фамилия Потолуй — редкий пример, когда прозвище, лёгшее в основу, сохранилось почти без изменений. Перед нами не типичная модель на -ов или -ин, а застывшая форма повелительного наклонения глагола с последующим -й. Это так называемые «командные» фамилии, образованные от прозвищ-приказов: Потолуй, Стучигора, Убейвовка. Носитель такого прозвища, скорее всего, получил его за манеру речи или за характер — склонность командовать, торопить, настаивать.

Глагол «потолуй» в современном языке неупотребителен, но его основа прозрачна: «то-ло» родственна «толочь», «толокно», «толча». В диалектах «потолуй» могло означать «растолки», «размельчи», «разбей». Прозвище могло закрепиться за человеком с тяжёлой рукой или за мельником, толокнянщиком — тем, кто постоянно толчёт зерно в ступе. Второй вариант: прозвище дали за назойливость, как «толчея» — человек, который «толчёт» одно и то же.

География фамилии узкая. Потолуй встречается почти исключительно на западе России, в Брянской и Смоленской областях, а также на приграничных территориях Беларуси. Это зона, где в ономастиконе много фамилий-команд: Ляпун, Стук, Брыкай. Форма без суффикса — верный признак, что фамилия не из дворянского или купеческого сословия, а из крестьянской или посадской среды, где прозвище не переоформляли в патроним, а оставляли в исходном виде.

В словарях Б. Унбегауна и В. Никонова эта фамилия не упоминается — она слишком локальна. Но её механизм образования хорошо описан в работах А. Суперанской по прозвищным фамилиям. Если ваш предок носил фамилию Потолуй, он почти наверняка жил в небольшом селе на западе России, и его прозвище родилось не в канцелярии, а в живой речи — как меткая характеристика, которая пережила века.