Фамилия Второй — редкий случай, когда в основе лежит не прозвище и не имя, а порядковое числительное. В русской традиции такие фамилии образовывались от имени-нумерации, которую давали ребёнку по счёту его появления в семье. Если первенец нередко получал имя Первой или Первуша, то следующий сын мог стать Вторым, Вторушей или Вторым. В отличие от распространённых Первых, фамилия Второй встречается намного реже, и это не случайно: в крестьянских семьях второго сына часто называли не по счёту, а по имени святого или по деду, поэтому числовая модель не стала массовой.

Словообразовательно фамилия стоит особняком. В ней нет типичных русских фамильных суффиксов —ов, -ев, -ин, -ский. Фамилия Второй — это субстантивированное прилагательное в форме мужского рода, то есть она застыла в именительном падеже, как, например, фамилии Чёрный, Малой или Толстой. Такая модель характерна для украинской и южнорусской ономастики, где фамилии часто оставляли в начальной форме без добавления суффикса принадлежности. Поэтому носитель фамилии Второй с высокой вероятностью имеет предков из чернозёмных губерний России или с Украины.

В некоторых случаях фамилия могла возникнуть не от имени, а от прозвища. Вторым могли прозвать человека, который всегда оказывался вторым в состязании, в очереди или в каком-либо деле, но эта версия менее убедительна: прозвища с числительными обычно давали детям, а не взрослым. Более того, в переписных книгах XVII века встречаются крестьяне с именем Второй — например, Второй Иванов сын, что подтверждает именно именное происхождение.

Географически фамилия разбросана, но имеет локальные сгущения. По данным современных телефонных справочников, Вторые чаще встречаются в Воронежской, Ростовской областях и в Краснодарском крае — то есть в регионах, где исторически оседали переселенцы с юга России и Украины. В центральных и северных областях фамилия практически не встречается, что косвенно подтверждает её южное происхождение.

С точки зрения социального контекста, фамилия Второй никогда не была дворянской или купеческой. Её носители — потомки крестьян и однодворцев, которые получали фамилии по личному имени, данному при рождении. Это не фамилия-прозвище по профессии или внешности, а прямой отпечаток семейной нумерации, сохранившийся в неизменной форме на протяжении нескольких столетий.