Фамилия Костяна — редкий случай в русской ономастике. Если вы её встретили, то почти наверняка перед вами не русская, а молдавская или румынская фамилия. В русском языке она выглядит как усечённая форма от «Костяной» или «Костянов», но это обманчивое сходство. На самом деле, в румынском языке Costeanu (а Костяна — это русифицированное написание) образовано от имени Costea — народной формы имени Константин. Суффикс -eanu в румынских фамилиях указывает на происхождение из определённого места или принадлежность к роду, примерно как русское -ский. Так что предок носителя фамилии Костяна был, скорее всего, человеком по имени Костеа, либо выходцем из села или местности с похожим названием.

В русском контексте фамилия могла возникнуть и иначе, хотя это менее вероятно. Если отталкиваться от славянской модели, то Костяна — это форма родительного или творительного падежа от прозвища Костян (человек с костлявым телосложением или, в переносном смысле, упрямый, «костяной»). Но такая модель образования фамилий (без суффикса -ов/-ин) в России встречается крайне редко и характерна в основном для украинских и белорусских земель, где были распространены «патронимы» без оформления. Однако в русских документах фамилии без суффикса почти всегда фиксировались поздно, в XIX веке, и часто у однодворцев или казаков.

Географически фамилия Костяна в России и на постсоветском пространстве тяготеет к юго-западным регионам — Молдове, Приднестровью, Одесской области. Там она встречается чаще, чем в центральной России. В молдавской среде она звучит как Коштяну или Костяну, и её носители — это потомки крестьян или ремесленников, получивших фамилию по имени отца или по месту жительства.

Есть ещё одна тонкость: изредка фамилию Костяна могли дать в русских деревнях как «уличное» прозвище, закрепившееся за семьёй. Например, если в роду был человек с необычной походкой или болезнью суставов (костяной, скрипучий). Но это уже единичные случаи, не отменяющие общего правила: ищите корни на юго-западе, в молдавском или румынском ареале.