Фамилия Косточка — редкий случай, когда прозвище перешло в фамилию почти без изменений, сохранив исходную форму. В русской традиции фамилии на -а/-я чаще всего образуются от женских имен или прозвищ (Мельникова, Кузнецова), но Косточка — исключение: здесь основа мужского рода, а окончание указывает скорее на прозвищный тип, который закрепился за человеком без добавления патронимических суффиксов -ов или -ин. Такая модель встречается в южнорусских и украинских землях, где фамилии могли записывать в «голом» виде.

Сам корень прозрачен. Прозвище Косточка могли дать человеку с заметной худобой — «кожа да кости». В крестьянской среде, где полнота считалась признаком здоровья и достатка, худой человек получал меткое прозвище, которое потом переходило детям. Однако есть и вторая, менее очевидная версия: в некоторых говорах «косточка» означала не только часть скелета, но и косточку плода, а также — в переносном смысле — твердого, несговорчивого человека. Так могли назвать упрямца или того, кто «грызет» дело до конца.

География фамилии тяготеет к западу и югу России. Косточка встречается на Кубани, в Ростовской области, в Белгородчине, а также на Украине — в Полтавской и Черниговской губерниях. Это подтверждает версию о прозвище, а не о книжном происхождении: в северных и центральных регионах России фамилию, скорее всего, переделали бы в Костин или Косткин.

У фамилии есть однокоренные «соседи»: Костин, Косткин, Костюк, Костецкий. Но Косточка стоит особняком — она не уменьшительная форма от имени Костя (как Костик), а самостоятельное прозвище. В документах XVII–XVIII веков, где фиксировали крестьян и казаков, прозвище Косточка встречается у запорожских казаков и однодворцев южных окраин. Сословного барьера фамилия не имела: ее носили и крестьяне, и мещане, и казаки.

В написании фамилия устойчива — вариант «Косочка» (с одной «т») ошибочен и встречается только как описка в метрических книгах. Ударение в русском языке падает на первый слог: Кóсточка.