Фамилия Кременская — женская форма фамилии Кременский. Её основа, скорее всего, связана с прозвищем Кремень. В народе кремнем называли человека, работавшего с огнём, например, того, кто обжигал гончарные изделия. Прозвище могло закрепиться и за человеком с твёрдым, несговорчивым характером — «кремнёвым». Позже прозвище Кремень или Кременский перешло в наследственное имя и заменило прежнее родовое прозвание.

Есть и другая, географическая версия. На юге России, в Волгоградской области, находится станица Кременская, где расположен Свято-Вознесенский Кременский мужской монастырь. В Луганской области Украины существует Кременский район. Фамилию Кременский мог получить переселенец или выходец из этих мест — по названию местности, откуда он прибыл. Такая модель образования фамилий (от названия населённого пункта с суффиксом -ск-) типична для дворянских и духовных сословий, но встречалась и среди крестьян, особенно при переездах.

Суффикс -ск- в фамилии Кременский (и Кременская) указывает на её происхождение от топонима или прозвища, оформленного по «географическому» образцу. Это отличает её от фамилий на -ов/-ев или -ин, которые чаще образовывались напрямую от имени или прозвища отца. В данном случае суффикс мог добавить оттенок принадлежности к месту или роду, а не только к конкретному предку.