Фамилия Ямской — а это именно прилагательное в мужском роде, а не Ямский — напрямую связана с ямской гоньбой. В Московской Руси XVI–XVII веков ямами называли почтовые станции, где держали лошадей для казённых перевозок. Ямщик, ямской охотник — человек, который на этих станциях работал: возил государевых гонцов, почту, грузы. Фамилию давали либо самому ямщику, либо его сыну. Суффикс -ск(ой) в данном случае не территориальный (не от названия села), а указательный: «Ямской» значило «тот, кто относится к яму, служит на яму».

В написании есть тонкость. Старая норма — Ямской, с ударением на последний слог. В советское время под влиянием массовой паспортизации и унификации фамилий на -ский нередко писали Ямский, теряя смысловое ударение. Поэтому в современных документах встречаются оба варианта, но исторически верная форма — Ямской. Если ваши предки из центральных губерний (Московской, Тверской, Владимирской, Ярославской), где ямская система была развита сильнее всего, то корень почти наверняка этот.

Стоит отделить фамилию от омонимичных названий. Посёлок Ямской, село Ямское — топонимы, возникшие от тех же ямов. Но фамилия от них не производилась: люди, жившие в селе Ямское, получали фамилию Ямской не по месту жительства, а по роду занятий, потому что село само названо по ямщицкой слободе. Так что социальный корень здесь первичен: предок носителя фамилии был не помещиком и не крестьянином-землепашцем, а государственным служилым человеком на почтовом тракте — ямщиком.

В словаре Б. Унбегауна «Русские фамилии» модель на -ской для указания на профессию отмечена как редкая: обычно так образовывали фамилии от географических названий. Ямской — одно из немногих исключений, что делает фамилию любопытным примером словообразовательной аномалии. Встречаются также однокоренные Ямщиков, Ямщик, Ямсков — но Ямской стоит особняком, сохраняя прямую отсылку к государственной службе, а не к ремеслу частного извозчика.