Фамилия Кароткая — редкий случай, когда написание расходится с произношением неочевидным образом. На слух она почти неотличима от «Короткая», но буква «а» в первом слоге меняет всю историю. Это не опечатка и не позднее искажение: в белорусском и украинском языках аканье закрепилось на письме, поэтому фамилия Кароткая — типичный пример восточнославянской модели, где прозвище зафиксировали в том виде, в каком его слышали.

Основа — прилагательное «кароткий» (короткий). Прозвище Короткий давали человеку невысокого роста или, реже, тому, кто говорил лаконично, «коротко». В русской традиции фамилии на -ой (Короткой) и -ий (Короткий) встречаются часто, а вот форма с «а» в корне указывает на юго-западное происхождение носителя: скорее всего, предки жили на территории современной Беларуси или Украины. Окончание -ая — это женская форма, но в фамилиях она могла закрепиться за женщиной (вдова, дочь) или, что бывает реже, передаваться как неизменяемая фамилия у мужчин, если оформление пошло от материнской линии.

Словообразовательная модель простая: от качественного прилагательного через субстантивацию (переход в разряд фамилий). Суффикса нет — фамилия осталась в чистой форме прилагательного, без добавления -ов/-ев или -ин. Такие «адъективные» фамилии в русском языке встречаются реже патронимических и чаще принадлежали духовенству или казачеству, но в случае с Кароткой вероятнее крестьянское или мещанское происхождение: прозвище по внешнему признаку давали в любой среде.

Спорных версий здесь немного. Можно было бы предположить связь с диалектным «карота» (кара, наказание) или с топонимом Каротка, но ни то, ни другое не подтверждается географией: фамилия встречается точечно в Беларуси, на западе России и в украинском Полесье, а не в одном селе. Самый правдоподобный вариант — всё же рост, тем более что однокоренные «Коротков», «Короткий», «Коротких» широко распространены, а Кароткая — их фонетический вариант, сохранивший местный говор.

Если ваши предки носили эту фамилию, стоит искать корни в губерниях, где аканье переходило в письмо: Могилёвская, Витебская, Черниговская. В метрических книгах XIX века фамилия могла писаться и через «о», и через «а» — чиновники часто записывали на слух, поэтому в одной семье встречаются варианты «Короткая» и «Кароткая».