Фамилия Шемлий — одна из тех, что заставляет задуматься о происхождении сразу, потому что её основа не лежит на поверхности. В русских фамилиях суффикс -ий часто указывает на притяжательность или принадлежность (как в фамилиях на -ский), но здесь он может быть и украинским, и белорусским. Скорее всего, перед нами украинская модель образования: суффикс -лий встречается в фамилиях, образованных от глагольных основ или прозвищ, обозначающих человека по действию. Например, Шемлий могло произойти от диалектного глагола шемлить — «шепелявить», «говорить невнятно» или «мямлить». В таком случае прозвище давали человеку с нечёткой речью.

Есть и вторая версия, менее очевидная, но правдоподобная: основа шем- может восходить к тюркскому шем — «жир», «сало», или к шемшир — «самшит» (крепкое дерево). В южнорусских и украинских говорах слово «шем» встречалось как название чего-то толстого, грузного. Тогда Шемлий — прозвище полного, коренастого человека. Однако первая версия (от дефекта речи) поддерживается аналогиями: в том же ряду стоят украинские фамилии Шепель, Шепеленко, Шамлий.

Географически фамилия Шемлий редкая. Основной ареал — Запорожская, Днепропетровская области Украины, а также юг России (Краснодарский край, Ростовская область), куда она попала с переселенцами. В дореволюционных списках она почти не встречается — это говорит о том, что фамилия либо поздняя (XIX век), либо бытовала в среде казачества или крестьян, чьи фамилии фиксировались нерегулярно.

Особенность фамилии — её окончание -ий, которое в украинском языке звучит как -ій (Шемлій). В русском написании оно сохранило исходную форму, но под ударением оказывается последний слог: Шемли́й. Это типично для украинских фамилий, где ударение падает на суффикс (сравните: Товстолій, Кривоній). Если ваши предки носили эту фамилию, они, скорее всего, были выходцами из чернозёмной полосы Украины, возможно — запорожскими казаками или государственными крестьянами.