Фамилия Костякоы, скорее всего, записана с ошибкой. Вероятно, вы имели в виду фамилию Костяков — именно так она выглядит в подавляющем большинстве документов и архивов. Если же написание «Костякоы» встречается в вашей семье, это, как правило, результат описки в паспорте или метрической книге (букву «ы» могли поставить вместо «в» на слух или по небрежности писаря).

Фамилия Костяков образована по стандартной для русских фамилий модели: основа + суффикс -ов. Основа здесь — имя или прозвище Костяк. Костяк — это уменьшительная форма от канонического имени Константин (в переводе с латыни — «стойкий», «постоянный»). В старину так могли называть человека неофициально, в быту, а его дети и внуки получали фамилию по отцу: «чей?» — Костяков, то есть «сын Костяка».

Есть и другая, не менее правдоподобная версия. В русских говорах «костяк» означало не только скелет или основу чего-либо, но и крепкого, костистого, широкоплечего человека. Прозвище Костяк могли дать сильному, плотному мужчине с крупным телосложением. В этом случае фамилия отражает не имя, а внешнюю характеристику предка. Обе версии имеют право на жизнь, и разделить их без точных сведений о первом носителе невозможно.

Географически фамилия Костяков чаще всего встречается в центральных и северных областях России, а также в Поволжье. Встречается она и у старых дворянских родов, и у крестьян, и у купцов — сословной привязки у неё нет. Если вам попадался вариант с окончанием «-ых» (Костякых), это севернорусская или сибирская диалектная форма, редкая, но тоже существующая.

Однокоренные фамилии — Костин, Константинов, Костюков, Костяев. Все они восходят к тому же имени или прозвищу, но различаются суффиксами, которые в разное время закрепились в разных регионах.