Фамилия Коштаненкова — женская форма от Коштаненков, а та, в свою очередь, образована от прозвища или неканонического имени Коштаненок. Разберём цепочку по частям.

Основа здесь — «Коштан». В русских говорах, особенно южных и западных, коштаном могли называть кочан капусты, крупный вилок. Прозвище Коштан давали человеку круглолицему, плотному, либо тому, кто выращивал или торговал капустой. Менее вероятная, но возможная версия — от тюркского «коштан» (кожаный мешок, бурдюк), но для центральной России такое заимствование маловероятно, а для казачьих областей — допустимо.

Суффикс «-енок» (в форме «Коштаненок») — типично белорусский и южнорусский (смоленский, брянский) патронимический суффикс, означающий «сын» или «младший родственник». То есть Коштаненок — это буквально «сын Коштана» или «маленький Коштан». Сравните: Волчонок — сын Волка, Рыжонок — сын Рыжего. Такая модель очень характерна для фамилий, которые закрепились на территории бывшего Великого княжества Литовского и Речи Посполитой (современная Беларусь, Смоленщина, Брянщина).

Фамилия Коштаненков (и её женская форма) — редкая, нечастотная. Встречается в основном на северо-западе России и в Беларуси. В писцовых книгах и ревизских сказках XVII–XVIII веков могли фиксировать как «Коштаненок» без фамильного суффикса, а позже, при переходе к постоянным фамилиям, добавили «-ов» по общерусскому образцу. Так Коштаненок стал Коштаненковым.

Сословно носители фамилии, скорее всего, были крестьянами или однодворцами — людьми, которые несли сторожевую службу на южных границах и сочетали её с земледелием. Дворянских родов с такой фамилией не зафиксировано.

Если ваш предок носил фамилию Коштаненков, его прародитель, вероятно, жил в западнорусских или белорусских землях, занимался огородничеством или просто выделялся плотной фигурой, за что и получил прозвище Коштан — «кочан».