Фамилия Гемский образована от имени Гема — сокращённой, народной формы крестильного имени Герман. В переводе с латыни Герман означает «единокровный, единоутробный, родной». Небесным покровителем этого имени считается патриарх Константинопольский Герман I, противник иконоборчества, почитаемый как святитель; день его памяти в христианской традиции — 12 мая. Скорее всего, основатель рода Гемских был человеком из простого сословия: суффикс -ский в фамилиях такого типа не обязательно указывает на дворянство, в белорусских и западнорусских землях он часто закреплялся за крестьянами и мещанами по месту жительства или отчеству.

Гема — это не единственная возможная основа. В русских говорах «гемза» или «гем» могли называть упрямого, своенравного человека, а в некоторых диалектах — и просто «нелюдимого». Однако версия с каноническим именем выглядит надёжнее: уменьшительные формы на -а (Гера → Гера, Герман → Гема) типичны для народной ономастики XIX века. Фамилия Гемский географически привязана к западным губерниям Российской империи и современной Беларуси. В документах упоминаются Михаил Иосифович Гемский, родившийся в 1908 году в деревне Братково Копыльского района, и Ян Андреевич Гемский, 1906 года рождения, из села Разворжаны Перемышлянского района Львовской губернии. Оба примера показывают, что фамилия бытовала в крестьянской среде и не была редкой на стыке белорусских и украинских земель.

Словообразовательная модель проста: к основе Гем- добавили типичный для фамилий-прилагательных суффикс -ск- и окончание -ий. Такая модель в западнорусских землях часто указывала на принадлежность к роду или местности, но в случае с Гемским — именно на происхождение от личного имени.