Фамилия Шмакалов — один из тех случаев, где за привычным суффиксом -ов скрывается неочевидная и довольно редкая основа. В отличие от массы фамилий, образованных от крестильных имён (Иванов, Петров) или названий профессий (Кузнецов, Плотников), Шмакаловы ведут свою родословную от прозвища.

Вероятнее всего, в основе лежит диалектное слово «шмак» или «шмака». В южнорусских и украинских говорах так называли сало, особенно вытопленное, смалец. Отсюда прозвище Шмак мог получить любитель сала, либо человек, занимавшийся его вытопкой или продажей. Вторая версия, менее распространённая, связывает прозвище с диалектным глаголом «шмакать» — чавкать, издавать звуки при еде. В этом случае прозвище носило бытовой, даже ироничный характер, указывая на манеру поведения.

Словообразовательная модель проста: к прозвищу Шмак добавили патронимический суффикс -ал (как в фамилиях Коваль → Ковалёв, но здесь — Шмак → Шмакал, с последующим присоединением -ов). Суффикс -ал в русских фамилиях встречается реже, чем -ов или -ин, и часто указывает на прозвищное происхождение, где -ал выступало как увеличительный или пренебрежительный формант. Таким образом, Шмакал — это «большой Шмак» или просто носитель прозвища, а Шмакалов — «сын Шмакала».

Фамилия зафиксирована преимущественно в центральных и южных областях России, с некоторым тяготением к Курской, Воронежской и Ростовской областям. Встречается она и на Украине, где слово «шмак» более употребительно. Среди однокоренных фамилий — Шмаков, Шмакин, Шмак. Шмакалов стоит особняком благодаря редкому суффиксу, что делает её более «говорящей» и характерной именно для прозвищной традиции, а не для имени.