Фамилия Хараим чаще всего указывает на этническую принадлежность предка. В её основе лежит прозвище, которое восходит к тюркскому слову «карайым» — так называли караимов, народ тюркской языковой группы, издавна живший в Крыму и на юге Украины. Прозвище Хараим закреплялось за человеком либо потому, что он действительно был караимом по происхождению, либо потому, что окружающие видели в нём внешнее или поведенческое сходство с представителями этого народа. Такая модель — перенос этнонима на конкретного человека без дополнительных суффиксов — типична для украинской народной ономастики.

Словообразовательная схема здесь проста: прозвище Хараим перешло в фамилию без изменений, без типичных для славянских фамилий суффиксов -ов/-ев или -ин. Это отличает её от большинства русских и украинских фамилий и указывает на позднее оформление или на прямое заимствование из тюркской среды. Само слово «караим» в тюркских языках связано с понятием «чёрный» (кара), но в данном случае это не цвет, а самоназвание народа, точная этимология которого остаётся предметом споров лингвистов.

В украинских фамилиях тюркские корни встречаются часто, и Хараим — один из таких примеров. Подобные фамилии фиксировались преимущественно в регионах, где караимские общины были заметны, — в Крыму, Подолье, на Волыни. Однако не стоит исключать и другую версию: в некоторых говорах прозвище могло закрепиться за человеком смуглым или черноволосым, которого в шутку сравнивали с караимом, даже если он не имел к этому народу отношения. Эта версия менее вероятна, но объясняет бытование фамилии за пределами мест компактного проживания караимов.

Точных сведений о древности фамилии и о её первых носителях нет — письменные источники по таким фамилиям разрозненны. Можно лишь уверенно говорить, что фамилия Хараим несёт память о контактах славянского и тюркского миров на юге Украины, где веками жили бок о бок разные народы.