Фамилия Гражданинов образована от прозвища Гражданин. В старину гражданином называли городского или посадского жителя, поэтому основная версия связывает происхождение фамилии с переселением: основатель рода мог переехать из города в село или деревню, и односельчане запомнили его как «городского». В таком случае прозвище указывало на происхождение человека, а не на его сословие.

Менее известная, но не менее интересная версия отсылает к украинскому диалектному слову «гражда». У гуцулов так называли замкнутый комплекс жилых домов и хозяйственных построек, образующий прямоугольный дворик. Если следовать этой гипотезе, прозвище Гражданин мог получить человек, живший в таком хуторе или владевший им. Гуцулы проживают в Карпатах, на территории Ивано-Франковской, Черновицкой и Закарпатской областей Украины. Таким образом, фамилия Гражданинов могла возникнуть и в западнорусских землях, а её носители — быть выходцами из гуцульского региона.

Фамилию носили люди разного сословия. В Книге памяти Нижегородской области упомянут кузнец затона Гражданинов Николай Дмитриевич, родившийся в 1901 году в селе Работки. Кузнец затона — редкая специальность: речь идёт о ремонте и обслуживании речных судов в затоне (закрытой от ледохода части реки, где зимуют и ремонтируются корабли). В документах начала XX века записан Гражданинов Иван Леонтьевич, родившийся в 1882 году в селе Романовка Шкотовского района.

Наибольшую известность фамилии принёс Павел Андреевич Гражданинов (1920–1943), Герой Советского Союза, лётчик-истребитель. К январю 1943 года он совершил 16 боевых вылетов и сбил 6 самолётов противника. В феврале того же года в воздушном бою он сбил Me-109, пилотируемый немецким асом, имевшим на счету 107 побед. Фашистский лётчик выпрыгнул с парашютом и был взят в плен пехотинцами. Сам Павел Андреевич погиб в том же 1943 году — не вернулся с боевого задания.

Суффикс -ов в фамилии указывает на модель образования: «чей?» — сын Гражданина. Окончание -ин было бы логичнее для основы на -а (Гражданин — Гражданинов, а не Гражданинин), поэтому фамилия следует типичной для русских фамилий схеме: к основе на твёрдый согласный добавляется -ов.