Фамилия Кармалинская — это пример «географической» фамилии, образованной от названия населенного пункта. Её основа — топоним Кармалы, деревня в Чувашии. Предок, получивший такую фамилию, скорее всего, родился в этом селе или владел там землей.

Название самой деревни, по наиболее лингвистически обоснованной версии, имеет тюркские корни. Оно восходит к слиянию двух татарских слов: «кара» (чёрный) и «мал» (богатство, имущество, скот). Таким образом, Кармалы — это «чёрный скот» или «чёрное богатство», что было распространенным типом названия для поселений, где разводили крупный рогатый скот.

Форма фамилии на -ская — типичный признак польско-украинской традиции образования фамилий от названий мест. В русской же среде чаще встречается вариант Кармалин (с суффиксом -ин). Кармалины — известный русский дворянский род, разделившийся в конце XVI века на две ветви. Один из предков, Семён Поуков сын Кармалин, владел поместьями уже в 1597 году, а за участие в «московском осадном сиденьи» при царе Василии Шуйском в 1616 году получил вотчину. Фамилия Кармалинская, вероятно, принадлежала к одной из ветвей этого рода, перешедшей на украинские земли, где оформилась по местной модели.

Существует и альтернативная, но менее убедительная гипотеза, связывающая фамилию с киргизским глаголом «карамала» — «всматриваться, опасливо озираться». Согласно этой версии, в основе могло лежать прозвище Кармала, данное человеку с настороженным или подозрительным характером. Однако связь с конкретным топонимом и существование дворянского рода Кармалиных делает географическую версию основной.