Фамилия Виханская — женская форма от Виханский, и её разумнее всего рассматривать через типичную для восточнославянских фамилий модель на -ский/-цкий. Этот суффикс чаще всего указывает на связь с географическим названием: владельческий или топонимический признак. То есть предок носителя фамилии, скорее всего, был либо помещиком из имения Вихань (или Виханы), либо выходцем из одноимённого села или хутора.

Корень Вих- сразу подсказывает возможную связь со словом «вихорь» (вихрь) или «вихлять» (шататься, идти неровно). Но в топонимике такое прозрачное значение встречается реже, чем личное имя или прозвище. Более вероятно, что в основе лежит прозвище Вихан — человек порывистый, неспокойный, «как вихрь». В старых писцовых книгах встречаются прозвища Вихорь, Вихря, а Вихан — уменьшительная форма, как Иван → Иваха, Степан → Стеха. От такого прозвища и пошло название поселения, а затем и фамилия.

Географически фамилия Виханский (и Виханская) тяготеет к западным регионам бывшей Российской империи — современной Беларуси и западной Украине, где суффикс -ский в крестьянских фамилиях был особенно распространён. В центральной России такую форму чаще носили дворяне, а на западе — и мещане, и крестьяне, получавшие фамилию по месту жительства. Если ваши предки были из Могилёвской или Волынской губернии, версия с топонимом становится почти бесспорной.

Есть и более редкая версия: связь с диалектным словом «виха» — изгиб, излучина реки. Тогда Виханский — тот, кто жил на повороте реки или у извилистого оврага. В пользу этой гипотезы говорит то, что названия с корнем вих- нередко давали изогнутым урочищам и ручьям. Но без конкретного упоминания деревни Вихань в документах это остаётся лишь догадкой.

Важно: фамилия Виханская не входит в число массовых, её носители — это, скорее всего, потомки одного или нескольких родов из узкого ареала. Если вы знаете точное место происхождения семьи (село, уезд), поиск по дореволюционным метрическим книгам может дать прямую привязку к конкретному поместью или хутору.