Фамилия Рытяков — редкий случай, когда прозвище, лёгшее в основу, почти наверняка связано с характером или поведением человека, а не с профессией или местом жительства. В её центре — глагол «рыть» или производное от него слово, но не в прямом, землекопном смысле.

Самый вероятный источник — прозвище Рытяк. В русских говорах так могли назвать кого-то очень деятельного, беспокойного, «роющегося» в делах или постоянно что-то ищущего. В переносном значении «рыть» означало «суетиться, хлопотать, копаться». Человек, который ни минуты не сидит на месте, всё перекладывает, проверяет, вмешивается — вот типичный Рытяк. Суффикс -як в таких прозвищах (сравните: добряк, толстяк, трудяга) придаёт оттенок характерного свойства: не просто «роет», а «рытяк» — тот, кто этим живёт.

Менее распространённая, но возможная версия отталкивается от слова «рытвина» — ухаб, выбоина на дороге. В этом случае прозвище Рытяк могли дать человеку, жившему у такого оврага или постоянно ездившему по разбитым дорогам. Однако эта гипотеза слабее: прозвища от конкретных объектов местности обычно образуются иначе (Заозёрский, Подгорный), а форма на -як для них нехарактерна.

Модель образования проста: прозвище Рытяк + патронимический суффикс -ов, то есть «сын Рытяка». Фамилия недворянская, типично крестьянская или мещанская. Встречается она в основном в центральных и южных регионах России, но нигде не образует заметных гнёзд — это фамилия штучная, редкая.

Однокоренные фамилии — Рытов, Рытьков, Рытиков — могут иметь то же происхождение, но у Рытякова суффикс -як делает значение более выразительным, почти портретным. Если ваш предок носил такое прозвище, он, скорее всего, был человеком кипучим и неуёмным, которого в деревне знали как непоседу или хлопотуна.