Фамилия Армяковы образована от прозвища Армяк. Слово «армяк» в русском языке обозначает верхнюю мужскую одежду — длинный халат из плотного сукна (верблюжьей или овечьей шерсти), который носили поверх кафтана или тулупа в дорогу и в ненастье. Одежда была широкой, с глубоким запахом, подпоясывалась кушаком. В XVIII—XIX веках армяк оставался в основном крестьянской одеждой, но его носили также ямщики и городские извозчики.

Само слово «армяк» — тюркского происхождения, в русских источниках известно с XVI века. Тогда небогатые люди шили его из грубой армячины, а бояре и купцы могли позволить себе домашний армяк из дорогих тканей. Прозвище Армяк могли дать либо портному, который шил такую одежду, либо человеку, который постоянно ходил в армяке и был в нём узнаваем.

По модели образования фамилия типична для русского севера и центра: суффикс -ов указывает на принадлежность («чей?» — сын Армяка). В документах фамилия встречается в разных губерниях, но без привязки к одному региону: скорее всего, прозвище было распространённым и возникало в разных местах независимо.

О точном времени возникновения фамилии Армяковы говорить сложно — как и большинство крестьянских фамилий центральной России, она закрепилась в XIX веке, хотя само прозвище могло быть старее. Фамилия сохранила в себе название предмета крестьянского быта, ушедшего из повседневной одежды уже в начале XX века, и потому сегодня воспринимается как историческая деталь, а не как указание на ремесло или привычку предка.