Фамилия Кочеряба звучит необычно, и её происхождение стоит искать не в столичных говорах, а в южнорусских и украинских диалектах. В основе фамилии лежит прозвище, образованное от диалектного слова «кочеряба» (или «кочерябка»). В украинском и некоторых южнорусских говорах так называли корявое, искривлённое дерево, сучковатый пень или просто что-то шершавое и неровное. Человек с таким прозвищем мог получить его за внешность (например, за коренастость, кривизну или шершавую кожу), за упрямый, «сучковатый» характер или за профессию, связанную с обработкой дерева.

Слово «кочеряба» имеет экспрессивную окраску и родственно глаголу «кочерябиться» — то есть ёжиться, топорщиться, становиться жёстким. В этом же ряду стоят слова «кочерга» и «коряга». Фамилия образована без типичного русского суффикса принадлежности (-ов, -ин), что характерно для украинской ономастической модели, где прозвище переходило в фамилию в чистом виде. Поэтому Кочеряба — это не «сын Кочерябы», а сам Кочеряба, то есть человек, которого так прозвали.

Географически фамилия встречается в основном на территории современной Украины, в Белгородской, Курской и Воронежской областях России — то есть в зоне исторического расселения восточных славян, где были сильны украинские говоры. Носители фамилии могли быть крестьянами или казаками, а само прозвище — не обидным, а скорее цепким и метким, как многие народные прозвища, описывающие внешность или повадку.

В ономастике это пример так называемой «агентивной» модели без суффикса, когда исходное нарицательное слово становится фамилией. Редкий суффикс -яба (ср. «гуляба», «скряба») указывает на диалектное происхождение и придаёт фамилии выразительность, которая плохо переводится на литературный язык. Сегодня фамилия Кочеряба остаётся малочисленной, что подтверждает её локальное, а не общерусское происхождение.