Фамилия Остяк звучит редко и сразу настораживает: не ошибка ли, не прозвище ли по национальному признаку? Да, первая и самая очевидная версия — происхождение от этнонима «остяки». Так в дореволюционной России называли хантов, отчасти манси и селькупов. Слово закрепилось в русском языке ещё в XVI–XVII веках, во времена освоения Сибири. Если предок получил прозвище Остяк, он мог быть выходцем из этих народов, либо русским, долго жившим среди остяков и перенявшим их обычаи, либо человеком с характерной внешностью, напоминавшей сибирских аборигенов. Прозвища по этническому признаку давали метко и без злого умысла — скорее как указание на «чужого» или «сибиряка».

Суффикс -як указывает на принадлежность к группе или характерный признак (сравните: пермяк, сибиряк, поляк). Модель образования простая: основа «ост-» + суффикс -як. Ударение, скорее всего, падает на второй слог: ОстЯк. В русской ономастике фамилии на -як встречаются реже, чем на -ов или -ин, и часто имеют украинское или белорусское происхождение, но в данном случае перед нами именно русская фамилия, связанная с сибирским контекстом.

Менее вероятная, но возможная версия — от диалектного слова «остяк» в значении «остриё», «кол», «торчащий предмет». В некоторых говорах так называли заострённый кол для изгороди или даже высокого худого человека. Однако эта гипотеза слабее: в словарях такое значение не зафиксировано как общеупотребительное, а в основе фамилий почти всегда лежит живое прозвище, а не редкий технический термин.

Географически фамилия Остяк тяготеет к Уралу и Западной Сибири — Тюменской, Томской, Омской областям. Именно там контакты русских с хантами и манси были наиболее плотными. В центральных губерниях она практически не встречается, что подтверждает её региональное происхождение. Сословно носители фамилии могли быть как крестьянами-старожилами, так и казаками сибирских линий, нередко бравшими в жёны местных женщин.

В написании фамилия устойчива: Остяк, без вариантов через «а» (Астяк) или двойное «с». Встречается также форма Остяков — более поздняя, образованная по стандартной модели патронима, но исходная именно Остяк. Сегодня фамилия остаётся редкой, и её носители, скорее всего, потомки тех, кто осваивал Сибирь с XVII века.