Фамилия Виталиий — редкий случай, когда фамилия почти неотличима от полного личного имени. В русской традиции фамилии на -ий обычно либо церковного происхождения (от названий праздников, например Рождественский), либо семинарские, образованные от латинских или греческих корней. Здесь основа — мужское имя Виталий, которое восходит к латинскому vitalis — «жизненный», «полный жизни».

Словообразовательная модель прозрачна: к имени Виталий добавили суффикс -ий. Это не типичный русский суффикс, а скорее книжный, церковнославянский. Такие фамилии давали в духовных училищах и семинариях: ученику с именем Виталий могли «переделать» фамилию в Виталиий, чтобы подчеркнуть его происхождение от святого или просто облагородить звучание. Сравните: Иван — Иванов, но Виталий — Виталиев (редко) и Виталиий (ещё реже).

Вторая версия, менее вероятная, — что фамилия образована от прозвища Виталий, которое закрепилось за родом. Но в крестьянской среде, где фамилии часто образовывались от отчества (Витальев, Витальев), форма на -ий выглядит чужеродной. Скорее всего, Виталиий — искусственная, семинарская фамилия, которую давали выпускникам духовных училищ в XIX веке.

Географически фамилия почти не встречается в переписях — это штучный, единичный вариант. Носители могли быть из семей священнослужителей, где такие «латинизированные» или «грецизированные» фамилии были в ходу. Если вы встретили человека с такой фамилией, перед вами, скорее всего, потомок семинариста, которому при поступлении «исправили» фамилию на более звучную.