Фамилия Грябко звучит редко и оставляет ощущение чего-то негладкого, шероховатого. Это ощущение не обманывает: её основа напрямую связана с украинским или южнорусским диалектным словом «грябкий». В говорах так называли шершавый, неровный предмет, а в переносном смысле — неуживчивого, резкого, «колючего» человека. Фамилия образована по типичной для восточной Украины модели: к корню добавили суффикс -к-, а затем окончание -о, характерное для украинских фамилий (сравните: Тягнибоко, Шевченко, Гринько). Ударение, скорее всего, падает на последний слог: Грябко́.

В отличие от фамилий на -ов/-ев, которые указывали на принадлежность отцу или хозяину (Иванов — сын Ивана), модель на -ко в XV–XVIII веках часто закрепляла прозвище за самим человеком. Первым носителем прозвища Грябко мог быть либо человек с грубой, шершавой кожей рук или лица, либо, что вероятнее, обладатель неуступчивого, «ершистого» характера. В казацкой среде, где ценилась крутость нрава, такое прозвище не считалось обидным — скорее, характеризовало боевую цепкость.

Слово «грябкий» родственно диалектному глаголу «грябнуть» — заскорузнуть, стать жёстким, и существительному «гряб» — шероховатость, неровность на дереве. Интересно, что в некоторых говорах так называли и гриб-трутовик, нарост на коре. Если предок был связан с лесным промыслом или плотницким делом, прозвище могло закрепиться за ним по сходству с этим шершавым наростом.

Встречаются единичные варианты написания «Грябко» в документах XIX века по Харьковской и Полтавской губерниям — именно там, где украинская модель фамилий на -ко наиболее распространена. Версия о происхождении от русского слова «грязь» маловероятна: фонетика фамилии твёрже (звук «б» вместо «з»), и семантика «грязного» человека дала бы фамилию Грязко или Грязнов, а не Грябко.

По сути, носитель фамилии Грябко получил в наследство не просто прозвище, а характеристику — «шершавый», «крепкий», «неласковый». В крестьянском быту такие люди часто были лучшими работниками: их не брала никакая работа, руки привыкли к мозолям.