Фамилия Рытенко — одна из тех, что образованы не от крестильного имени, а от прозвища. В её основе лежит слово «Рыт», и у этого прозвища есть как минимум два правдоподобных объяснения, каждое из которых по-своему рисует портрет далёкого предка.

Первая версия связывает прозвище с прилагательным «рытый» — то есть «рябой». Так в старину называли человека с веснушками или со следами оспы на лице. Прозвище Рыт в этом случае указывало на внешнюю особенность, которая бросалась в глаза окружающим и закреплялась за человеком надолго. Вторая версия отсылает к общеславянскому корню «рыть», то есть «копать». Тогда Рытом могли прозвать того, кто копал колодцы — дело в деревне нужное и уважаемое. Не исключено, что так называли и земледельца, чья работа была неразрывно связана с землёй, или, напротив, человека медлительного и тяжёлого на подъём — в переносном смысле, «копуна».

Суффикс «-енко» в фамилии — типичная украинская модель отчества, означающая «сын того-то» или «потомок такого-то». То есть Рытенко — буквально «сын Рыта». Такие фамилии массово закреплялись на Левобережной Украине и в южнорусских землях в XVII–XVIII веках, когда прозвища постепенно становились наследственными. Изначально прозвище Рыт присоединялось к личному имени, но со временем полностью заменило его и в быту, и в официальных бумагах, дав начало фамилии.

Какую из версий считать основной — вопрос открытый. Рытьё колодцев — занятие конкретное и редкое, а вот «рытый» в значении «рябой» — слово более распространённое в народной речи. Поэтому версия о внешности выглядит чуть предпочтительнее, хотя полностью сбрасывать со счетов «копателя» не стоит: в каждом конкретном роду прозвище могло возникнуть по своей причине. Точных исторических данных о первых носителях фамилии в открытых источниках нет, так что остаётся довольствоваться лингвистическим анализом.