Фамилия Кривогуз — из числа тех старых прозвищ, что строятся по модели «признак + часть тела». Её основа — прилагательное «кривой» и существительное «гуз». В древнерусском языке «гуз» означало заднюю часть тела, круп. Поэтому прозвище Кривогуз в прямом смысле указывало на человека с искривлённой или неправильной осанкой, возможно, на того, кто ходил, скособочившись, или имел заметную хромоту, из-за которой корпус перекашивался. Это не оскорбление в современном понимании, а бытовая «говорящая» примета — на Руси так метко и без обиняков описывали внешность, чтобы отличить одного человека от другого.

Словообразовательная модель здесь прозрачна: корень «крив-» (как в словах «кривой», «кривизна») плюс корень «гуз-» (от общеславянского *guzъ — зад, круп). Суффикса в чистом виде нет — это чистое сложение двух основ, типичное для древних прозвищ. Позже, когда прозвище закрепилось как фамилия, оно могло остаться без изменений (Кривогуз) или, реже, обрасти типичным русским суффиксом -ов, образовав вариант Кривогузов. Но форма без суффикса — более архаичная, она характерна для украинской и южнорусской ономастики, где фамилии на -уз, -ас, -ай встречаются чаще, чем на севере.

Географически фамилия Кривогуз тяготеет к югу России и Украине. В реестрах Войска Запорожского встречаются прозвища с корнем «гуз» (Гузь, Гузий, Кривогуз), что позволяет предположить: предки носителя фамилии могли быть из казачьей среды. Прозвище давали не только за кривизну спины — в переносном смысле «кривогузым» могли назвать упрямого, строптивого человека, который «гнёт свою линию», не поддаётся уговорам. В некоторых говорах «гуз» имел и значение «задний конец чего-либо», «выступ», так что возможна и сугубо локальная, утраченная ныне деталь, понятная лишь в конкретном говоре.

В этимологическом плане фамилия Кривогуз входит в обширную группу «кривых» прозвищ, где «кривой» указывал на физический недостаток: Кривонос, Кривошея, Криворот, Кривоног. Но, в отличие от них, «гуз» — слово менее употребительное в современном языке, поэтому фамилия звучит редко и своеобразно. В словарях русских фамилий (например, у Б. Унбегауна) подобные сложения описываются как типичные для народной номинации, где точность и зримость образа ценились выше благозвучия.