Фамилия Косматенко образована по одной из самых распространённых в украинской ономастике моделей: от прозвища или имени с помощью патронимического суффикса -енко. Суффикс -енко в буквальном смысле означает «маленький» или «сын», поэтому фамилия Косматенко — это «сын Космати» или «потомок Космати». Такая модель была особенно типична для Левобережной и Слободской Украины, а также южных областей России, куда фамилии на -енко пришли с переселенцами.

Основа фамилии — прозвище Косматя. Оно напрямую связано с нарицательным «космы»: так в просторечии называли очень густые, буйные, нечёсаные кудри. Прозвище Косматя отражало самую заметную особенность внешности основателя рода — густые вьющиеся волосы. Однако не стоит думать, что такое прозвище было обидным или снисходительным. В представлении древних славян густые, ухоженные волосы символизировали богатство, изобилие и счастье. Пышная шевелюра считалась признаком физической силы и удачи, поэтому прозвище Косматя могло быть даже почётным.

Слово «космы» — общеславянское, родственное литовскому kasà (коса) и древнеиндийскому kacā (волосы). В русских говорах «косматый» означало не только лохматый, но и мохнатый, покрытый густой шерстью. Поэтому прозвище Косматя могли дать не только человеку с буйной шевелюрой, но и, например, обладателю густой бороды или бровей.

В старину такие прозвища легко закреплялись за человеком в качестве наиболее употребительного именования, вытесняя крестильное имя. Со временем прозвище Косматя легло в основу фамилии Косматенко, и потомок человека с этим прозвищем получил фамилию, указывающую на родство. Примечательно, что фамилия Косматенко встречается преимущественно в центральных и восточных областях Украины, что подтверждает её происхождение именно в украинской языковой среде.