Фамилия Костлявых — яркий представитель северорусской модели фамильных прозвищ. Суффикс -ых (а в родительном падеже — -их) указывает на принадлежность к роду, дому или семье. Такие фамилии отвечали на вопрос «чьи вы будете?»: Костлявых — значит «из семьи Костлявого». Этот тип характерен для бывших черносошных (свободных) крестьян Архангельской, Вологодской, Вятской губерний и Сибири, куда переселенцы принесли эту традицию.

Основа фамилии — прозвище Костлявый. В старину так могли назвать человека по двум прямо противоположным причинам. Первая — внешняя: худой, сухопарый, с выступающими костями. В русских говорах слово «костлявый» закрепилось именно за таким телосложением, и прозвище давали без злого умысла, по заметному признаку. Вторая, менее очевидная, — профессиональная или бытовая: костлявым могли прозвать костореза, мастера, который делал гребни, пуговицы, рукоятки ножей из кости. В северных деревнях костяной промысел был подсобным ремеслом, и такое прозвище указывало на занятие, а не на внешность.

Стоит отбросить версию, будто фамилия связана с болезнью или туберкулёзом — в народной среде прозвища редко давали по медицинским диагнозам, которых тогда не ставили. Скорее, это бытовая характеристика или ремесленная кличка, закрепившаяся за родом. Поскольку фамилия на -ых не склоняется по падежам в мужском и женском варианте, в документах XIX века она часто записывалась в форме «Костлявой» (в единственном числе), а в переписях — «Костлявых» (как родовое имя). Современное написание закрепилось в советское время при паспортизации.

Однокоренные фамилии — Костляев, Костливый, Костлявый — встречаются реже, но все они восходят к тому же прозвищному гнезду. Географически Костлявых чаще всего фиксируют в Кировской области и Пермском крае, что подтверждает северорусское происхождение.