Фамилия Пилевцев — один из тех случаев, когда внешне прозрачная основа обманчива. На первый взгляд, в ней слышится что-то связанное с пилой или опилками, но суффикс указывает на иную природу. Модель образования здесь редкая: -евц- (в полной форме -евцев). Это патронимический суффикс, который присоединяли к основе прозвища или имени, образуя фамилию в значении «сын такого-то». Корень «Пилев-» — это не пила (инструмент), а, скорее всего, сокращенная форма от имени или прозвища Пиле́в.

Самая правдоподобная версия ведет к каноническому имени Филарет (греч. «любящий добродетель»). В народном произношении оно могло редуцироваться до Филе́й, Фи́ля, а затем — через форму Филев — дать фамилию Филевцев. Со временем начальное «Ф» перешло в «П» под влиянием акающих говоров или просто в результате упрощения: «Филевцев» стали произносить как «Пилевцев». Подобный переход (Ф → П, Хв → П) встречается в русских фамилиях, например, Пугачев из Фугачев или Пантелеев из Фантелеев.

Другая, менее вероятная версия — от прозвища Пиле́й. В диалектах «пилей» могли называть человека, который «пилит» (надоедает, придирается), или же это было искажение тюркского слова «билей» (так, знающий). Но в этом случае фамилия скорее звучала бы как Пилеев, а не Пилевцев. Суффикс -евц- однозначно указывает на то, что в основе лежало имя или прозвище на -ей, -ай, а не просто глагольный корень.

Географически фамилия тяготеет к южнорусским и центральным областям, где аканье было нормой. Встречается она нечасто — это говорит о том, что родоначальник был не из массового крестьянства, а, возможно, из однодворцев или мелких служилых людей, у которых фамилии фиксировались раньше и точнее. В любом случае, Пилевцев — это «сын человека по прозвищу Пилей» или «потомок того, кого звали Филей».