Фамилия Грахов образована от личного имени или прозвища Грах. Самая распространенная версия связывает его со старославянским названием гороха. Растительные имена в древнерусском быту встречались часто: считалось, что горох и его стручки приносят плодородие скоту и урожай в поле. В северорусских селах даже существовал «Горохов день», который совпадал с праздником Спаса, — так чествовали созревший горох. Однако у фамилии есть и вторая, менее очевидная версия. Грах могло быть прозвищем от глагола «грохотать» — так в народе называли непоседливого, шумного ребенка. Выбор между двумя вариантами зависит от того, что было важнее в конкретной семье: пожелание достатка и плодородия (через горох) или меткая характеристика живого характера предка.

Суффикс -ов указывает на типичную для русских фамилий модель принадлежности: сын Граха, потомок человека по имени или прозвищу Грах. Фамилия эта нередкая, но и не массовая — встречается в основном в центральных и северных областях России, что косвенно подтверждает связь с северной традицией «гороховых» праздников. Однокоренные фамилии — Горохов, Горошков — имеют ту же растительную основу, но Грахов выделяется архаичной, усеченной формой корня, характерной для древних славянских имен.