Фамилия Рытина — относительно редкая, но прозрачная по происхождению. Она образована по самой распространённой в русском языке модели с суффиксом -ин, который указывает на принадлежность: «чей?» — Рытин, то есть сын или потомок человека по прозвищу Рыта. Ударение в фамилии обычно падает на первый слог: Ры́тина.

Основа фамилии — прозвище Рыта. В русских говорах слово «рытый» имело несколько значений. Самое прямое — «покрытый рябинами, оспинами» (от слова «рыть» в значении «делать углубления, ямки»). Так могли прозвать человека со следами оспы на лице. Второе, менее очевидное значение связано с глаголом «рыть» в переносном смысле: «рытый» — угрюмый, нелюдимый, «себе на уме». В некоторых диалектах «рытой» называли лошадь особой масти — рыжей с тёмным отливом, но применительно к человеку это значение маловероятно.

Словообразовательная цепочка проста: от прозвища Рыта через притяжательное прилагательное Рытин к фамилии. Суффикс -ин типичен для фамилий, образованных от основ на -а, -я. Встречается фамилия и в мужском варианте — Рытин, который фиксируется в документах с XVII века, например, в переписных книгах Новгородской земли.

Географически фамилия Рытина тяготеет к северным и центральным областям России — Вологодской, Архангельской, Костромской, а также встречается в Поволжье. Это связано с тем, что диалектное слово «рытый» в значении «рябой» было особенно распространено именно в северных говорах.

Стоит отличать фамилию Рытина от однокоренной Рытова. В фамилии Рытов основа — краткое прилагательное «рыт» (тот же смысл), а суффикс -ов указывает на другую модель образования. Рытина же — фамилия «материнского» типа, где суффикс -ин прямо отвечает на вопрос «чей сын?». Никакого отношения к слову «рыть» в смысле земляных работ фамилия не имеет — это случайное звуковое совпадение.