Фамилия Янтовская — женская форма фамилии Янтовский, и её разумнее всего разбирать именно через мужской вариант, так как в русской традиции фамилии на -ский/-ская почти всегда образовывались от мужской основы. Основа здесь — Янт. Это не самый частый корень в русских фамилиях, и он сразу выдаёт возможное географическое или этническое происхождение.

Первое, что приходит на ум: связь с рекой Янта (Янта) или населённым пунктом вроде Янтово, Янтовка. Такие топонимы встречаются в Польше, Беларуси и на западе Украины. Фамилии на -ский изначально были «княжескими» или «помещичьими» — указывали на владение землёй или родовое имение. Янтовский мог означать «тот, кто из Янтова» или «владелец Янтова». В польской ономастике суффикс -ский особенно распространён среди шляхты, так что предки носительницы фамилии вполне могли быть мелкими дворянами или однодворцами из западных губерний Российской империи.

Вторая версия, менее вероятная, но не исключённая: Янт — это вариант имени Ян (Иван) через диалектное произношение или под влиянием балтийских языков. В литовском и латышском есть имя Jantas, которое могло дать прозвище, а от него — фамилию. Однако суффикс -ский в этом случае указывал бы скорее на «принадлежность к Яну», что для крестьянских фамилий XIX века редкость — обычно в таких случаях использовали -ов/-ев.

Если смотреть на словообразовательную модель: Янтов- + -ск(ий). Суффикс -ов- здесь не патронимический (не «сын Янта»), а притяжательный, указывающий на отношение к объекту: Янтов — значит «относящийся к Янту» (реке, селу). Поэтому топонимическая версия выглядит надёжнее. Фамилия не слишком частая, и её носители в России, скорее всего, происходят из бывших польских или западнорусских губерний — Витебской, Могилёвской, Гродненской.

В написании Янтовская обращает на себя внимание твёрдый звук «т» — в отличие от более привычного Янчевская (от Ян через «ч»). Это дополнительный аргумент в пользу того, что основа — не уменьшительная форма имени, а именно название места или реки.