Фамилия Оленкин образована по очень простой и прозрачной модели: суффикс -ин указывает на принадлежность, а основа — слово «олень». В русских фамилиях суффикс -ин обычно присоединялся к основам, оканчивающимся на -а/-я (как в «Оленя»), и означал «чей?» — «сын такого-то» или «человек из семьи такого-то». Здесь основа — прозвище Оленя или Оленка.

Сразу отбросим версию, что фамилия связана с охотой на оленей или с оленеводством: прозвища от названий животных в Древней Руси давали не по роду занятий, а по внешнему сходству или по поведению. Оленем (или Оленкой) могли прозвать высокого, стройного человека с длинной шеей, а также кого-то с большими, «оленьими» глазами или с пугливым нравом. В северных говорах слово «олень» имело и переносное значение — «тихоня», «простак» (отсюда и глагол «олениться» — робеть).

Интересная деталь: фамилия Оленкин закрепилась в форме с суффиксом -ин, а не -ов. Это значит, что исходное прозвище звучало как Оленя (а не Олень). В старых документах встречается и вариант Оленкин, и Оленков, но первый явно указывает на мягкую основу. Географически фамилия встречается рассеянно, без ярко выраженного «гнезда», что типично для прозвищных фамилий, возникших независимо в разных регионах.

Сравните с однокоренными: Оленев, Оленников, Оленин. Оленников — это уже от ремесла (оленник — пастух оленей или торговец оленьими шкурами), а Оленкин — чисто прозвищная фамилия, которая говорит о том, что предка в глаза называли Оленей. В дворянских родах эта фамилия не зафиксирована, так что, скорее всего, носители — потомки крестьян или посадских людей, где такие «звериные» прозвища были особенно часты.