Фамилия Рыльщиков образована от прозвища Рыльщик. Возможно, в основе этой фамилии лежит украинское слово «рыля, рылей», что означает «старинный струнный музыкальный инструмент, разновидность лиры». В этом случае прозвище Рыльщик мог получить музыкант, либо человек, занимающийся изготовлением музыкальных инструментов. Согласно другой версии, прозвище Рыльщик произошло от глагола «рыть», что означает «копать, делая в земле углубление». Тогда Рыльщиком могли прозвать человека, который, например, рыл колодцы. Таким образом, потомок человека, обладающего прозвищем Рыльщик, со временем получил фамилию Рыльщиков.