Фамилия Роготкина образована от мужского прозвища Роготка, а оно, скорее всего, от глагола «роготать» — в северных и сибирских говорах это означало «громко хохотать, заливаться смехом». Человек, получивший такое прозвище, был, по всей видимости, весельчаком, балагуром, тем, кто легко и звонко смеялся. Корень здесь тот же, что и в слове «рог» — изначально «роготать» могло звукоподражательно передавать раскатистый, гулкий смех, похожий на трубный звук.

Модель образования типична для русских фамилий: к основе прозвища Роготк(а) добавили суффикс -ин, указывающий на принадлежность: «сын Роготки» или «жена Роготки». Форма Роготкина — женская, но в традиции русских фамилий она закреплена за потомками по женской линии или является исходной формой для замужней женщины, хотя в современном бытовании фамилия чаще склоняется по мужскому роду (Роготкин).

Фамилия редкая, её географическое ядро, судя по данным современных переписей, тяготеет к западу России. Следы прозвища встречаются в псковских и новгородских говорах, где «роготать» сохранилось лучше всего. Это косвенно указывает на северо-западное происхождение фамилии. В старых источниках (например, в переписных книгах) она не фиксируется часто, что говорит о её позднем закреплении или локальном бытовании в крестьянской среде.

Другая, менее вероятная версия связывает прозвище Роготка с диалектным «роготок» — уменьшительным от «рог». Тогда прозвище могло относиться к человеку с каким-то заметным изгибом или особенностью в строении тела (например, торчащие зубы или необычная форма уха). Но эта гипотеза слабее: глагольная основа «роготать» даёт более прямую и живую мотивировку для прозвища, чем предметная.

По сословному происхождению фамилия Роготкина почти наверняка крестьянская или мещанская. Дворянских родов с такой фамилией не зафиксировано. Встречается она и у старообрядцев — возможно, из-за северного ареала бытования.