Фамилия Граевский — типичный пример польской топонимической фамилии, образованной по модели «название места + -ский». В основе лежит город Граево (польск. Grajewo) на северо-востоке Польши, в Подляском воеводстве. От названия этого города и получил свою фамилию человек, который оттуда родом или владел там землёй. В польской ономастике такие фамилии на -ский первоначально указывали на дворянское происхождение и связь с поместьем, но со временем распространились и среди других сословий.

Само название Граево лингвисты возводят к слову «грай» — в старопольском и западнорусском говорах так называли вороний крик стаей, карканье. Возможно, местность получила имя из-за обилия птиц или из-за шумного, многоголосого звука. Вторая версия — более прозаическая: прозвище Грай могли дать крикливому, шумному человеку, и уже от этого прозвища позднее образовалась фамилия. Но топонимическое происхождение выглядит убедительнее: фамилия плотно привязана к конкретному городу, а прозвищная версия не объясняет суффикс -евский, который в польской традиции почти всегда указывает на место.

Фамилия Граевский встречается в двух этнических средах — у поляков и у евреев. В польском варианте она чаще всего писалась как Grajewski, в русской передаче закрепилась форма Граевский. Документы подтверждают и то, и другое бытование. В базе «Польские спецпереселенцы в Архангельской области» значится поляк Граевский Франц Иванович, 1883 года рождения, родом из села Кончина Дольна под Тарновом (Краковское воеводство). А в архивах белорусского «Мемориала» упоминается еврей Граевский Симха Шолевич, родившийся в 1897 году в местечке Едвабно Белостокской области. Оба случая показывают, что носители фамилии не обязательно были выходцами именно из города Граево — фамилия уже жила своей жизнью, передаваясь по наследству и распространяясь по соседним регионам.