Фамилия Янкоский звучит на польский манер, хотя встречается она и на восточнославянских землях. В её основе — популярное в Польше, Беларуси и Украине имя Ян, местный аналог русского Ивана и общеевропейского Иоанна. Суффикс -ский (польск. -ski) указывает на дворянское или шляхетское происхождение: в Речи Посполитой такие фамилии носили в основном люди благородного сословия, привязанные к родовому поместью.

Исходная форма — Янковский (Janowski или Jankowski), где корень Ян- соединяется с притяжательным суффиксом -ов(-ев). Фамилия Янкоский — это, скорее всего, диалектный или орфографический вариант, возникший из-за местных особенностей произношения или записи. В польском языке сочетание -ow- могло редуцироваться, а в русских и украинских документах при адаптации польских фамилий буква «в» иногда выпадала или заменялась. Поэтому Янкоский и Янковский — родственные формы, разошедшиеся в написании.

Если говорить о значении, то предок носителя такой фамилии мог быть владельцем села или хутора с названием вроде Янково или Янковичи. Такие топонимы распространены на территории современной Польши, западной Беларуси и Украины. Второй вариант — фамилия образована прямо от имени Ян с добавлением суффикса -ский, минуя топоним: так называли человека, который был «Янов», то есть принадлежал к роду или общине Яна.

В России и на постсоветском пространстве фамилия Янкоский встречается редко, чаще всего у потомков выходцев из западных губерний или у поляков, переселившихся в XIX–XX веках. В польской ономастике форма с окончанием -ский традиционно считается шляхетской, но со временем такие фамилии закрепились и у крестьян, получивших вольную. Однозначно сказать, к какому сословию принадлежал первый Янкоский, без генеалогического исследования нельзя, но сама модель фамилии указывает на вероятную связь с землёй и привилегированным статусом в прошлом.