Фамилия Казбинцева — женская форма фамилии Казбинцев, которую образовали от прозвища Казбинец. В основе лежит топоним Казбин — город на северо-западе Ирана, к северо-западу от Тегерана. Через этот город в XIX веке нередко пролегал путь русских послов и купцов в Персию. Александр Грибоедов, бывший послом в Персии, оставил о Казбине заметку: «Казбин — древняя метрополия поэтов и ученых. Фисташковые деревья. Хозяин жалуется богу на Каджаров. Остатки древнего великолепия — мечети, мейданы и проч. Перед Казбином много деревень в стороне, принадлежат сардарю Эриванскому; им же выстроены училища в Казбине».

Название города, скорее всего, восходит к арабскому слову «казба» — «крепость». Прозвище Казбинец могли дать человеку, который родился в Казбине, долго там жил или вёл с ним дела. Суффикс -ец в таких прозвищах (ср. астраханец, туляк) указывает на происхождение с определённой территории. Фамилии на -инцев/-енцев — редкая модель в русской ономастике, но встречается в южных и восточных регионах, где контакты с тюркскими и персидскими землями были обычны.

Мужская форма — Казбинцев — образована по типичному русскому патронимическому принципу: от прозвища Казбинец с помощью притяжательного суффикса -ев (Казбинец → Казбинцев, буквально «сын Казбинца»). Фамилия Казбинцева — нечастая, её носители в основном встречаются в южных областях России и на Северном Кавказе, что косвенно подтверждает связь с торговыми или дипломатическими контактами с Персией.