Фамилия Рысенкин образована по одной из самых распространённых в русской ономастике моделей: от прозвища или имени через притяжательное прилагательное с суффиксом -ин. В основе лежит слово «рысенок» — детёныш рыси. Суффикс -кин указывает на принадлежность: Рысенкин буквально значит «чей-то сын» или «потомок Рысенка».

Прозвище Рысенок могли дать человеку за внешнее сходство с этим зверем: рыжеватый цвет волос, жёлтые глаза, быстрые и резкие движения, насторожённый взгляд. В русских говорах слово «рысь» имело и переносные значения — так называли бойкого, хитрого или злого человека. Но в данном случае основа не «рысь», а именно «рысёнок» — форма уменьшительная, что может указывать на молодость или невысокий рост первого носителя прозвища.

Словообразовательная цепочка здесь простая: Рысенок → Рысенкин. Такая модель типична для фамилий, возникших в XV–XVII веках в среде крестьян и посадских людей. Суффикс -ин в русских фамилиях присоединяется к основам на -а, -я, а также к словам мужского рода, оканчивающимся на согласный (как «рысенок»), при этом конечный -ок обычно отсекается: Рысенок — Рысенкин.

Фамилия Рысенкин редкая. Встречается преимущественно в центральных областях России — в Тверской, Московской, Ярославской губерниях, а также в Поволжье. Географическая привязка связана с зоной распространения рыси в исторические времена: прозвище могли дать в лесных районах, где этот зверь водился. В некоторых говорах слово «рысенок» могло звучать как «рысёнок» с ударением на последний слог, что отразилось на произношении фамилии.

Стоит отметить, что фамилия Рысенкин не имеет отношения к фамилиям от крестильных имён (как Рысин — от Рыся, уменьшительного от Ирина или Григорий). Это чисто прозвищная фамилия, зооморфная по происхождению. В словаре Б. Унбегауна «Русские фамилии» подобные образования описаны как типичные для «животного» пласта русской ономастики, но сама фамилия Рысенкин в нём не упоминается — что подтверждает её редкость.

Если ваш предок носил такую фамилию, скорее всего, он жил в лесной полосе и получил прозвище за характер или внешность, напоминавшие рысёнка. Никакого отношения к рыси как к геральдическому символу или дворянскому роду фамилия не имеет — это народная, крестьянская фамилия.