Фамилия Шихарбеев — редкий пример, где арабский корень встретился с русским суффиксом. Основа «Шихарбей» восходит к тюркскому или арабо-тюркскому составному имени. Первая часть, «ших», — это искажённое арабское «шейх» (старейшина, духовный глава, уважаемый человек). Вторая часть, «арбей», скорее всего, происходит от арабского «арба» (четыре) или от тюркского «арба» (телега, повозка), но в составе имени чаще работает первое значение — «четыре». Получается «четыре шейха» или «четвёртый шейх». В мусульманской ономастике такие числовые конструкции («четвёртый», «пятый») нередко давали ребёнку как оберег или в честь четырёх праведных халифов.

Фамилия образована по русской модели: к основе «Шихарбей» добавили патронимический суффикс -ев. Это значит, что предка звали Шихарбей, а его потомки стали Шихарбеевыми. Суффикс -ев, а не -ов, указывает на то, что основа оканчивалась на мягкий согласный или й (в данном случае — на й, который в русском письме часто переходит в е). Такая модель типична для фамилий, возникших в среде татарской, башкирской или кавказской знати, перешедшей на русскую фамильную систему в XVI–XIX веках.

Географически фамилия тяготеет к регионам с традиционным исламским населением: Татарстан, Башкортостан, отчасти Дагестан. Встречается и у кумыков, и у ногайцев. В русских переписях XIX века единичные Шихарбеевы фиксировались в Казанской и Уфимской губерниях. Сословно носители фамилии чаще всего были служилыми татарами или мещанами, реже — крестьянами. Имя Шихарбей давало понять, что род имеет отношение к духовенству или уважаемым старейшинам, но в России XIX века оно уже стало фамилией, а не личным именем.

Есть и более прозаичная версия: «шихарбей» могло быть прозвищем человека, который держал четыре телеги (арба) или работал извозчиком. Но в тюркской антропонимике числовые имена встречаются чаще, чем профессиональные прозвища, поэтому версия с «четырьмя шейхами» выглядит убедительнее.