Фамилия Гаголкина — женская форма фамилии Гаголкин, а та, скорее всего, образована от прозвища или нецерковного имени Гаголка. Основа здесь — слово «гагол», которое в русских говорах имело два совершенно разных значения. Первое — это птица, родственная утке или гагаре (в некоторых диалектах так называли гагару или крохаля). Второе, более распространённое в ономастике, — насмешливое прозвище для долговязого, нескладного или неуклюжего человека. В словаре Владимира Даля «гагол» (или «гаголь») — это ещё и «верзила», «долговязый»; отсюда же, кстати, известная фамилия Гоголь, которая имеет ту же основу, но с другим суффиксом.

Суффикс -к- в слове «Гаголка» — уменьшительный или пренебрежительный. То есть Гаголка — это не просто «гагол», а, допустим, «маленький гагол» или «гагол, которого мы жалеем/дразним». Фамилии на -ин (Гаголкин) традиционно образовывались от имён и прозвищ, оканчивающихся на -а/-я, и отвечали на вопрос «чей?»: сын Гаголки — Гаголкин. Такая модель характерна для северных и центральных областей России, в частности для новгородских и владимирских земель.

Интересная деталь: если прозвище Гаголка было связано с птицей, то предок мог быть охотником, птицеловом или просто человеком, напоминавшим эту птицу внешне или повадками. Если же прозвище было насмешливым, то речь идёт о высоком, худом и, возможно, неуклюжем мужчине. В любом случае, фамилия редкая и не попала в массовые списки распространённых русских фамилий — это не Гагарин и не Гоголь, а локальное прозвание, закрепившееся за одним родом.

В написании фамилии встречается вариант с двумя «г» (Гаголкина) — это нормально для устной речи, где первый «г» произносится твёрдо, а на письме могла закрепиться двойная буква. Но основной корень — именно «гагол», а не «гаголл». Фамилия не имеет отношения к тюркским или финно-угорским языкам — это чисто славянская, диалектная основа.