Фамилия Янкоиц — редкий случай в русской ономастике, и её разбор требует отойти от привычных схем. Самое необычное здесь — суффикс. В русских фамилиях типичны окончания -ов, -ин, -ский, но -иц встречается гораздо реже и почти всегда указывает на западное, чаще польское или украинское, происхождение. В польском языке суффикс -иц (-ic) — это уменьшительная или патронимическая форма, то есть «сын такого-то». Янкоиц, скорее всего, и есть такая форма: основа Янко (уменьшительное от имени Ян, то есть Иван) плюс суффикс -иц. Получается «сын Янко» или «маленький Янко».

Однако написание «Янкоиц» с буквой «о» перед «иц» настораживает. В польском языке это выглядело бы как Jankoic или Jankowicz. Вариант Янкоиц мог возникнуть при адаптации фамилии на русской почве: переписчики или сами носители могли упростить звучание, отбросив -в- (Янковиц → Янкоиц). Или же это результат записи на слух, когда исходное польское окончание -wiec превратилось в -иц.

Географически фамилия могла закрепиться в западных губерниях Российской империи — на территории современной Беларуси, Украины или в бывших польских землях. Там фамилии на -иц встречаются в среде мелкой шляхты и крестьян. Дворянский корень не исключён: в польской шляхте были распространены фамилии на -иц, указывающие на родовое гнездо или предка. Но конкретно Янкоиц — слишком редкая фамилия, чтобы уверенно привязать её к какому-то сословию без архивных списков.

Интересно сравнить её с однокоренными: Янковский, Янкевич, Янков. Если Янковский — типичная фамилия польской знати (по названию поместья), то Янкоиц — более архаичная, «простая» форма, без суффикса принадлежности к месту. Она могла сохраниться в семьях, которые не участвовали в массовой русификации фамилий в XIX веке, когда многие «иц» переделывали в «ов» или «ев». Так что носитель фамилии Янкоиц, скорее всего, имеет предков с западнорусских или польских земель, а сама фамилия буквально значит «сын маленького Ивана» или «потомок Янко».