Фамилия Карандиевский — одна из тех, что сразу обращает на себя внимание характерным суффиксом «-евский». Эта модель типична для польской или украинской шляхетской ономастики: в Речи Посполитой суффикс «-евский» (или «-овский») часто присоединяли к названиям имений, чтобы образовать фамилию владельца. Поэтому, скорее всего, Карандиевские — потомки мелкопоместной шляхты или казацкой старшины, чья фамилия пошла от названия усадьбы или хутора Карандиевка.

Сложнее с корнем «Каранд-». Здесь возможны две версии, и обе неочевидны. Первая: основа восходит к тюркскому «каранда» или «каранды» — в ряде тюркских языков это слово означало «карандаш» (через персидское посредство), но в значении прозвища могло относиться к человеку, который много пишет, переписывает документы, или к писарю. Вторая версия: корень связан с диалектным украинским или белорусским словом «каранда» — так в некоторых говорах называли невысокого, коренастого человека. В ономастике нередки случаи, когда внешняя черта или род занятий становились прозвищем, а затем — фамилией поместья.

Поскольку фамилия образована по модели «прозвище/топоним + -евский», а не просто «имя + -ов», можно предположить, что предок Карандиевских получил прозвище Каранда (или Карандий), а его дети или внуки, получив земельный надел, назвали своё владение Карандиевкой. Уже от названия хутора и пошла фамилия. Эта схема характерна для украинской шляхты и правобережной казачьей старшины XVII–XVIII веков.

Фамилия довольно редкая. Встречается преимущественно на Украине и в южных областях России, что подтверждает её вероятное происхождение из черниговских или киевских земель, где были сильны польские и украинские ономастические традиции. Сословно носители фамилии могли быть как мещанами, так и потомками обедневших дворян, утративших документы о шляхетстве после разделов Речи Посполитой.

Спорных версий немного. Иногда Карандиевских пытаются связать с греческой фамилией Карандино или итальянской Карандини, но это натяжка: славянский суффикс «-евский» в таких построениях необъясним. Самая правдоподобная линия — тюркское прозвище (писарь) или местное диалектное слово, закрепившееся в форме помещичьей фамилии.