Фамилия Мягкий образована от прозвища, которое на Руси встречалось довольно часто. В труде историка и археографа С. Б. Веселовского упоминается новгородец Мягкий Яков Андреевич Вельяминов, воевода 1606 года. Это раннее свидетельство показывает, что прозвище бытовало в служилой среде и не несло уничижительного оттенка.

Слово «мягкий» в народной речи имело несколько значений, поэтому прозвище могло указывать на разные черты. Чаще всего за ним угадывали либо внешность — полноту, рыхлость телосложения, либо характер — добродушие, уступчивость, щедрость. Второе значение, вероятно, было даже более распространённым: прозвища, данные по нраву, всегда ценились в крестьянской и посадской среде.

Модель образования проста: прозвище Мягкий перешло в фамилию без изменений, что типично для фамилий, закрепившихся в форме прилагательного. В отличие от более частых фамилий на -ов (Мягков), здесь сохранилась исходная краткая форма прозвища, что говорит о раннем закреплении фамилии или её книжном происхождении.

Со временем фамилия Мягкий встречается в разных регионах, но особенно часто — на юге России и в Сибири, куда переселенцы приносили прозвища с собой. В документах XVII–XVIII веков можно встретить и вариант Мягкой, который отражает старую орфографию и произношение.