Она образована от прозвища Месник из нарицательного «месник» - «мститель». Скорее всего, предок обладателя этой фамилии был вспыльчивым, злопамятным человеком, или бретером (дуэлянтом).