Фамилия Шельменко — характерный пример украинской модели фамилии на -енко, которая означает «сын» или «потомок». В данном случае — «сын Шельмы» или «потомок Шельмы». Суффикс -енко в XVII–XVIII веках массово закрепился на Левобережной Украине, в казачьей среде, и позже распространился на южные губернии Российской империи. Поэтому носители фамилии Шельменко, скорее всего, происходят из Черниговской, Полтавской или Харьковской областей, а также из прилегающих районов России, куда переселялись украинцы.

Основа фамилии — прозвище Шельма. В украинском и русском языках это слово имеет два основных значения, и оба могли дать прозвище. Первое, более известное — «мошенник», «плут», «ловкач». Второе, забытое сегодня — «калека», «увечный человек» (от немецкого Schelm, которое в старогерманском означало «падаль», а позже — «мерзавец», но в восточнославянских диалектах перешло в значение «изувеченный»). В XVIII веке, при Петре I, «шельмой» называли осуждённого, которого подвергли гражданской казни (шельмованию) — позорному наказанию с переломом шпаги над головой. Однако в народном быту прозвище Шельма чаще давали хитрому, изворотливому человеку, и оно не обязательно несло ругательный оттенок — скорее, характеризовало умение выкрутиться.

С точки зрения словообразования фамилия Шельменко стоит в одном ряду с другими украинскими фамилиями на -енко от прозвищ: Шевченко (от швец), Бондаренко (от бондарь), Шинкаренко (от шинкарь). Модель простая: к основе Шельм- добавляется -енко. Вариант Шельменко — не единственный в этой группе: есть фамилия Шельмак (с суффиксом -ак), Шельмин (с русским суффиксом -ин), а также белорусская Шельманович. Но Шельменко — самая частая форма, и она указывает именно на украинские корни.

Интересно, что фамилия Шельменко встречается в литературе: в пьесе Григория Квитки-Основьяненко «Шельменко-денщик» (1840) выведен образ ловкого, плутоватого слуги. Это не означает, что все Шельменко — потомки литературного персонажа, но показывает, насколько прозвище было узнаваемым в украинской среде XIX века. В реальной истории фамилия фиксируется в ревизских сказках Полтавской губернии за 1780-е годы, что подтверждает её давнее бытование именно в казачьем и крестьянском сословии.