В основе фамилии Глеб лежит крестильное имя Глеб. Ученые до сих пор спорят о его происхождении: одна из версий возводит имя к древнескандинавскому Guðleifr («наследник Бога» или «любимец Бога»), другая — к старославянскому слову «глеба», которое в польском языке сохранило значение «земля», «почва», «пашня». Фамилия образована по простейшей модели: имя без дополнительных суффиксов стало наследственным прозвищем, а затем закрепилось как фамилия. Такое оформление — прямое, без прибавления -ов или -ин — встречается реже, чем патронимы на -ов/-ев, и указывает на то, что предок мог быть человеком незнатного происхождения или прозвище закрепилось в форме, близкой к имени.

Святым покровителем имени считается князь Глеб (в крещении Давид), страстотерпец, погибший вместе с братом Борисом в 1015 году недалеко от Смоленска. По преданию, убийцы настигли ладью Глеба, и он не сопротивлялся, а только молил пощадить его юную жизнь; повар перерезал ему горло. Этот сюжет, знакомый каждому по «Повести временных лет», сделал имя широко известным на Руси, но в крестьянской и мещанской среде оно долго оставалось редким.

Встречается фамилия в основном в западных и северо-западных регионах бывшей Российской империи. Например, в Базе данных «Польские спецпереселенцы в Вологодской области» записан белорус Глеб Дмитрий Николаевич 1896 года рождения, уроженец Пинской области (Лунинецкий район, Денисковичи). Эта запись показывает, что носители фамилии могли происходить из польско-белорусского пограничья, где имя Глеб бытовало среди православного населения.

Среди однокоренных фамилий — Глебов (самая распространенная, с патронимическим суффиксом -ов), Глебкин, Глебко, Глебский. Фамилия Глеб без суффикса стоит особняком: она короче, звучит архаично и, возможно, сохранила более древнюю форму бытования имени в качестве прозвища.