Фамилия Константиновы — одна из тех, что образованы напрямую от полной формы крестильного имени, без уменьшительных или пренебрежительных суффиксов. В основе лежит церковное имя Константин, которое пришло на Русь вместе с христианством из Византии. Греческое слово «констанс» означает «стойкий, постоянный» — именно это качество, по замыслу, должны были унаследовать или проявлять носители имени.

Модель образования типична для русских фамилий: к основе имени добавили суффикс -ов. Такая схема в XVI–XVII веках закрепилась за детьми и потомками человека по имени Константин. В отличие от фамилий на -ин (от основ на -а/-я), форма Константинов указывает, что имя отца звучало именно как Константин, а не Костя или Константинка. Это говорит о том, что предок, вероятно, был человеком уважаемым или занимал заметное положение — в крестьянской среде чаще использовали производные формы.

Точное время и место возникновения фамилии назвать сложно: процесс шёл несколько столетий. Однако можно сказать, что в центральных губерниях России, особенно в Московской и Тверской, фамилия Константинов встречается в документах уже с конца XVII века. Среди однокоренных — Константиновский, Константинович, Костин — именно форма на -ов осталась самой распространённой, потому что она стандартно обозначала «сын Константина» в официальных записях.

Фамилия не указывает на конкретное сословие: её носили и купцы, и духовенство, и дворяне. Например, известен род Константиновых из псковских помещиков, записанный в VI часть родословной книги. Но в массе своей это фамилия, которая закрепилась за потомками людей, получивших при крещении имя в честь святого равноапостольного Константина, императора, или святителя Константина — митрополита Киевского.