Фамилия Терновец ведет свое начало от аналогичного прозвища, которое, вероятно, происходит от топонима Терновка (укр. Тернiвка) - город в Днепропетровской области Украины, расположенный на реке Большая Терновка. Вероятно, предок обладателя данной фамилии был его уроженцем. Терновка была основана в 1775 году, когда по приказу азовского губернатора были вырублены густые заросли тёрна и образована слобода. Через три года в слободе насчитывалось уже 116 дворов.