Фамилия Грякалова происходит от прозвища Грякало. Его основа — южнорусский или украинский глагол «гракать», то есть «каркать, кричать вороной». Прозвище давали крикуну, горлану — человеку, который говорил громко и много. Суффикс -ало в фамилии типичен для юга России и Украины, что подтверждает географию её возникновения.

Есть и вторая версия: в основе фамилии могло лежать мирское имя Грак (Гряк) от украинского «грак» — «грач». В народных представлениях черные птицы, включая грачей, считались зловещими и нечистыми. Такое имя могло быть «охранительным»: родители давали его ребенку, чтобы отвести от него зло, считая, что нечистая сила не тронет того, кто уже назван «плохим» именем.

Архивные документы подтверждают бытование фамилии в черноземных областях. В архивах УВД Воронежской области записан Грякалов Сергей Дмитриевич 1911 года рождения из села Красноселовка Петропавловского района. В Книге памяти Саратовской области отмечена Грякалова Евдокия Ивановна 1910 года рождения из деревни Михайловка Баландинского района. Эти записи указывают, что фамилия была распространена среди крестьянского населения южных губерний.