Фамилия Харютина — женская форма, мужской вариант — Харютин. В основе лежит нецерковное имя или прозвище Харюта. Это слово происходит от древнерусского «харя», что означало «личина, маска, а также лицо, физиономия», причём чаще с пренебрежительным или ироничным оттенком — «рожа, морда». Суффикс -ут- в имени Харюта — уменьшительно-ласкательный, как в словах «Мишута» или «Ванюта», поэтому прозвище могло значить «маленькая харя» или «рожица». Вероятно, так в шутку называли ребёнка с выразительной мимикой, курносым носом или просто любили дразнить.

Фамилия образована по стандартной русской модели: к основе Харют- добавили суффикс принадлежности -ин, указывающий на родство: «чей?» — Харютин, то есть сын или потомок Харюты. Такие фамилии на -ин типичны для северных и центральных областей России, где активно бытовали прозвищные формы. Встречаются однокоренные фамилии: Харюков, Харюшин, Харягин — все они восходят к тому же корню «харя», но с разными суффиксами.

Реже выдвигают версию о связи с тюркским «харю» — «чёрный», но она слабая: для русского ономастикона характернее славянская основа, а фамилия фиксируется в основном в русских регионах, например, в Вологодской и Архангельской губерниях. В дореволюционных переписях Харютины нередко числились крестьянами или мещанами, что подтверждает бытовое, а не аристократическое происхождение. Таким образом, предок носителя фамилии — человек, получивший прозвище за внешность или характер, и это прозвище закрепилось в роду без изменений.