Фамилия Мотыльский звучит как типичная «географическая» фамилия, и это первое, что приходит в голову. Суффикс -ск- указывает на происхождение от названия места — села, деревни или усадьбы. В основе лежит топоним Мотыль, Мотыли или Мотылево. Такие названия в России и Беларуси не редкость: их связывают либо с диалектным словом «мотыль» (бабочка, мотылёк), либо с прозвищем Мотыль — так могли назвать суетливого, непоседливого или легкомысленного человека. В старину «мотылем» называли и мелкую рыбёшку, и болотную мошкару, так что прозвище могло относиться к внешности или поведению.

По модели образования Мотыльский — фамилия дворянская или шляхетская по происхождению, если говорить о её типичном носителе в XVI–XVII веках. В Польше и Великом княжестве Литовском фамилии на -ский закреплялись за владельцами имений: пан из Мотылей становился Мотыльским. В Российской империи такие фамилии могли получить и выходцы из духовенства (семинаристы нередко брали фамилии по названию родного села), и переселенцы, взявшие прозвание по месту выхода.

Есть и менее очевидная версия — связь с ремеслом. В южнорусских говорах «мотыль» означало не только бабочку, но и рычаг, ворот для подъёма тяжестей, а также часть ткацкого станка. Если предок был мастером по изготовлению таких деталей или работал с механизмами, его могли прозвать Мотыль, а его потомки — Мотыльские. Но эта гипотеза уступает по вероятности топонимической: слишком уж характерен суффикс -ск- именно для «географических» фамилий.

Географически фамилия Мотыльский встречается в основном в западных областях России (Смоленская, Брянская), а также в Беларуси и на Украине. Это подтверждает её вероятное происхождение из земель бывшего Великого княжества Литовского, где топонимы на -ль и -ли обычны. Встречаются и варианты написания — Мотильский, Матыльский, но они редки и чаще всего являются результатом описок или местного произношения.

Известных носителей с такой фамилией в публичном поле немного, что типично для локальных фамилий, не попавших в общероссийские справочники. Если ваши предки носили фамилию Мотыльский, имеет смысл искать корни в конкретном селе или местечке с похожим названием — скорее всего, это и будет та самая точка, откуда пошёл род.