Фамилия Регздиньш — редкий для России пример латышской фамилии, сохранившей национальную грамматическую форму. Она не подверглась русификации, поэтому суффикс -иньш (в латышской транскрипции -iņš) остался в ней неизменным. В латышском языке этот суффикс выполняет две функции: он может указывать на принадлежность к роду (буквально «сын такого-то») или придавать слову уменьшительно-ласкательный оттенок. Таким образом, основа фамилии — это не полное имя, а прозвище или, скорее всего, отчество от личного имени Регзда (или Регзде).

Само имя Регзда — крайне редкое. Вероятнее всего, это вариант крестильного имени Григорий, переработанный латышским народным произношением. В латышском языке имя Григорий трансформировалось в Грегорис или Регзис, а уменьшительная форма от него — Регздиньш — закрепилась в качестве фамилии. Вторая версия, менее распространённая, связывает основу с латышским словом «regzt» — в старом значении «видеть, зреть» или «замечать». Тогда прозвище Регзда мог получить зоркий, наблюдательный человек.

Ударение в фамилии ставится на первый слог: Ре́гздиньш. Географически она привязана к исторической территории Курземе (Курляндия) и Земгале — именно там чаще всего встречались фамилии с суффиксом -iņš, образующиеся от личных имён. В письменных источниках XIX века, когда латышским крестьянам начали массово присваивать фамилии, форму Регздиньш могли записать как Регздынь или Регздин, если писарь был русским. Современное написание с мягким знаком — результат адаптации латышской буквы ņ к кириллице.

В отличие от русских фамилий на -ов/-ев, которые указывали на принадлежность к отцу, латышская модель на -иньш нередко передавала принадлежность к роду или месту. Носитель фамилии Регздиньш — потомок человека по прозвищу Регзда, и в этом прозвище, скорее всего, звучала не фамильярность, а уважительное именование по отцу или по характерной черте. Среди известных латышских деятелей эта фамилия не фигурирует, что делает её типичным примером «народной» ономастики, не попавшей в элитарные слои общества.