Фамилия Рыльцева — женская форма фамилии Рыльцев. В основе лежит прозвище или нецерковное имя Рылец, которое могло относиться к человеку с характерной внешностью. Слово «рыльце» в русских говорах имело несколько значений: чаще всего так называли мордочку животного, но в переносном смысле — и лицо человека, особенно с вытянутыми или заметными чертами. Прозвище Рылец могли дать человеку с острыми или крупными чертами лица, либо тому, кто имел привычку совать нос в чужие дела (отсюда и фразеологизм «рыльце в пушку»).

Суффикс -ев указывает на патронимическую модель образования: Рыльцев буквально значит «сын Рыльца». Фамилия образована по той же схеме, что и десятки тысяч русских фамилий, но с редкой основой: корень «рыл-» встречается в фамилиях Рылов, Рылеев, однако вариант с суффиксом -ец и последующим -ев встречается заметно реже.

Географически фамилия Рыльцева тяготеет к центральным и южным областям России. В документах XVII–XVIII веков встречаются крестьяне и посадские люди с этой фамилией в Курской, Воронежской и Тамбовской губерниях. В этих краях слово «рыльце» было в ходу, а прозвища по внешности давали часто. Сословно носители фамилии относились в основном к крестьянству и мещанству, дворянских родов Рыльцевых в родословных книгах не зафиксировано.

Стоит отличать фамилию от однокоренной Рылеев (через форму Рылей) и от Рыльский (топонимическая, от города Рыльск). Рыльцева — более архаичная, «прозвищная» модель, которая сохранила прямую связь с обиходным словом, а не с географическим названием.