Фамилия Карагедян — армянская по происхождению, и об этом говорит её финальная часть. Суффикс -ян (в старой орфографии — -янц) — один из самых распространённых патронимических показателей в армянском языке. Он означает «из рода такого-то» или «принадлежащий к». То есть Карагедян — это потомок человека по имени или прозвищу Карагед. В русской традиции фамилии на -ян часто получали окончание -ов или -ев, но Карагедян сохранила исходную армянскую форму.

Основа Карагед — сложное слово. Первая часть кара- (գարա) в армянском означает «чёрный», «тёмный». Вторая часть -гед (գեդ) — это диалектное или архаичное слово, обозначающее «волк» (в литературном армянском — «гайл»). Таким образом, исходное прозвище Карагед — «чёрный волк». Это типичный для многих народов зооморфный образ: прозвище могли дать охотнику, воину, человеку с тёмными волосами или суровым, нелюдимым характером. В армянской ономастике подобные составные прозвища с цветовым определением не редкость (сравните Карапет — «чёрный вожак», Карамян — «чёрный»).

Географически фамилия Карагедян наиболее характерна для западных областей исторической Армении — района Вана, Муша и Сасуна. В Российской империи носители фамилии встречались в Эриванской и Елизаветпольской губерниях, а после геноцида армян 1915 года — в диаспоре по всему миру. В современной Армении фамилия распространена, но не входит в число самых массовых, что говорит о её относительно локальном происхождении.

В русском языке фамилия Карагедян иногда искажалась при записи: можно встретить варианты Карагедянц (с сохранением древнего окончания) или Карагедов (по русской модели). Однако написание через -ян — единственно верное для армянской ономастики. Встречается также ошибочное сближение с тюркским «кара гед» (чёрная ночь), но армянская этимология с «волком» надёжнее: в армянском «гед» — именно волк, а не ночь.