Фамилия Смешнои — редкий и неочевидный случай. На первый взгляд, её хочется связать с прилагательным «смешной», но это было бы слишком прямолинейно и, скорее всего, ошибочно. В русской ономастике фамилии, образованные напрямую от качественных прилагательных в именительном падеже (типа «Добрый», «Красивый»), встречаются, но крайне редко и чаще всего имеют южнославянское происхождение. У русских же фамилий с окончанием -ой почти всегда другая природа.

Ключ к разгадке — в суффиксе и в том, как звучало слово в старину. Скорее всего, перед нами фамилия, образованная от прозвища или мирского имени Смех, Смешной, Смешно́й. В древнерусском языке ударение в слове «смешной» падало на последний слог: смешно́й. Это означало не «вызывающий смех», а «относящийся к смеху», «связанный со смехом», или, что вероятнее, «тот, кто смешит», «скоморох», «шут». Прозвище Смешно́й могли дать балаганному актёру, затейнику, человеку с весёлым нравом. Сама фамилия Смешнои — это, по сути, застывшая форма родительного или предложного падежа от этого прозвища: «чей?» — Смешно́го, «о ком?» — о Смешно́м. В документах XVII–XVIII веков такие формы записывали слитно, и окончание -ой (как в фамилиях Толстой, Благой) указывает на принадлежность к старомосковской орфографической традиции.

Вторая, менее правдоподобная версия, отталкивается от топонима. В России есть несколько мелких населённых пунктов с названием Смешное, Смешная. Житель такого места мог получить фамилию по названию деревни, но тогда форма, скорее всего, была бы Смешнов или Смешнин. Вариант Смешнои для топонимической фамилии нетипичен.

Важно отличать её от фамилии Смешной (с ударением на е), которая тоже существует, но встречается реже и, возможно, имеет ту же основу, но другое ударение, закрепившееся в говорах. Фамилия Смешнои — архаичная по форме, она несёт в себе отпечаток той эпохи, когда прозвища и мирские имена были обычным делом, а их обладатель, скорее всего, был не прочь посмеяться и рассмешить других.