Фамилия Кастыкин образована по самой распространённой в русской ономастике модели: от основы на твёрдый согласный плюс суффикс принадлежности -ин. Это значит, что предка носителя фамилии звали Кастыка. Само прозвище или нецерковное имя Кастыка — уменьшительная форма от слова «кастык». Что это за слово, сказать непросто: в литературном русском языке его нет, искать корень нужно в диалектах.

В южнорусских и украинских говорах «кастык» (или «костык») — это палка, посох, костыль. Прозвище Кастыка могли дать человеку, который ходил с опорой (хромому), либо высокому и худому, кого сравнивали с жердью. В северных и сибирских говорах, по данным словарей русских народных говоров, «кастыка» — задира, сварливый человек, забияка. Прозвище, данное по характеру, — одна из самых частых причин возникновения фамилий. Какая из версий верна для конкретной семьи, можно попробовать понять по месту, откуда родом предки: если корни на юге или западе России, скорее верна «палочная» версия, если на севере или в Поволжье — «драчливая».

Фамилия недворянская, типично крестьянская или мещанская. Кастыкины встречаются в переписных книгах XVII–XVIII веков по разным уездам, но особенно плотно — в бывшей Вятской губернии (современные Кировская область, Удмуртия, Марий Эл). В вятских говорах слово «кастыка» означало не только сварливого человека, но и «непоседу», «егозу». Это делает вятскую версию самой правдоподобной: именно на Вятке фамилия фиксируется раньше и чаще, чем где-либо ещё.

Есть и редкая версия, что в основе лежит тюркское слово «кастык» (в значении «остаток», «обрезок»), но она не подкреплена географией: фамилия почти не встречается в татарских или башкирских регионах, а её носители — преимущественно русские. Поэтому искать предка-тюрка стоит только в том случае, если семейное предание прямо об этом говорит.

Фамилия не меняла написания: Кастыкин — и всё. Вариантов с буквой «о» (Костыкин) не зафиксировано, хотя по смыслу они родственны: «костыль» и «кастык» — однокоренные слова, разошедшиеся по говорам.