Фамилия Кармалинский — это украинско-польский вариант русской дворянской фамилии Кармалин. Её основа, скорее всего, имеет тюркские корни. Вероятнее всего, в основе лежит название географического объекта Карамола (таких в тюркском мире несколько). Реже предполагают связь с киргизским «карамала» — «всматриваться, озираться, разыскивая», но эта гипотеза слабее, поскольку прозвище от глагола с таким значением маловероятно.

Русский род Кармалиных разделился в конце XVI века на две ветви. Первая пошла от Семёна Поукова сына Кармалина: он владел поместьями с 1597 года, а за отличие в «московском осадном сиденьи» при Василии Шуйском получил вотчину в 1616 году. Из его потомков наиболее известен Николай Николаевич Кармалин (1824 года рождения) — эриванский военный губернатор, затем начальник Кубанской области и наказный атаман Кубанского казачьего войска (1873–1882), позже генерал от инфантерии и член Военного совета. Его жена Любовь Ивановна Кармалина (урождённая Беленицына) оставила ценные воспоминания о М. Глинке, опубликованные в «Русской старине». Вторая ветвь Кармалиных происходит от Михаила Булгакова сына Кармалина, пожалованного поместьем в 1629 году. Обе ветви внесены в VI часть родословной книги Рязанской губернии.

Суффикс -ский в фамилии Кармалинский (вместо более простого -ин) — типичная черта польской или украинской адаптации: так оформляли фамилии шляхетского звучания. Форма Кармалинский могла возникнуть у потомков, переселившихся на земли Речи Посполитой, или как вариант для обозначения принадлежности к роду — «из дома Кармалиных».