Фамилия Караказарян — почти стопроцентный маркер армянского происхождения. Её выдают два характерных элемента: основа «Караказ» и типичный армянский патронимический суффикс «-ян» (в старой орфографии «-янц»), означающий «принадлежащий к роду такого-то». В русской традиции фамилию часто адаптировали, заменяя конечное «-ян» на «-ов», но исходная форма сохранилась у многих носителей.

Корень фамилии — составное слово. Первая часть, «кара», восходит к тюркскому «чёрный» (это слово вошло и в армянский, и во многие другие языки Кавказа и Ближнего Востока). Вторая часть, «каз», сложнее. Самая вероятная версия: «Караказ» — это искажённое «Карагаз» (арм. «газ» — «гусь»). Тогда фамилия буквально означает «чёрный гусь» — типичное для многих культур прозвище, которое могли дать человеку за смуглую внешность, хриплый голос или особую походку. Менее убедительна гипотеза, связывающая «каз» с арабским «кади» (судья): вряд ли прозвище «чёрный судья» было бы устойчивым.

Встречается и другое написание — Караказя́н, с ударением на последний слог. Это не ошибка, а диалектный или орфографический вариант: в некоторых армянских говорах «з» переходило в «дз», а в русской записи это отражалось по-разному. Носители фамилии расселены по всему постсоветскому пространству, но заметная их часть происходит из исторической области Западной Армении (сейчас восток Турции) и из Нагорного Карабаха. В XIX — начале XX века Караказаряны нередко были ремесленниками или мелкими торговцами — прозвище «гусь» намекает скорее на бытовую наблюдательность соседей, чем на высокое социальное положение.