Фамилия Багтряни — редкий случай, когда написание почти полностью скрывает корень. Если произнести её вслух, слышится «Бог-тряни», но на письме — «Багтряни». Скорее всего, перед нами искажённая запись фамилии Бахтряни (или Бохтряни), где основа восходит к тюркскому имени Бахты (Бахта) — «счастье», «удача». Такие имена (Бахтияр, Бахтыгуль) были распространены у татар, башкир и других тюркских народов. Суффикс «-ин» указывает на принадлежность: «чей?» — Бахтрянин, то есть сын или потомок Бахтряна. Со временем оглушение «х» перед «т» дало «г» — так и вышло «Багтряни».

Однако есть и другая, более прозаичная версия. В русских говорах слово «багрить» значит «ловить рыбу багром» или «хватать, тащить». От него могло образоваться прозвище Багря — человек, который багрил рыбу, промышлял на воде. Форма «Багтряни» — это просторечное отчество от прозвища Багря с добавлением суффикса «-ин»: Багря → Багрянин → Багтрянин. Переход «ря» в «тря» — не редкость в живой речи, особенно если прозвище произносили с придыханием или в быстрой скороговорке.

Третья возможность — связь с цветом. Древнерусское «багр» (багряный) дало прилагательное «багряный», но фамилия от цвета обычно выглядит как Багров или Багрецов. Багтряни могло возникнуть, если в основе лежало прозвище Багряный, которое в местном говоре превратили в Багтряный. Но это наименее вероятно: суффикс «-ин» редко крепится к прилагательным с окончанием «-ый».

Известных носителей фамилии Багтряни в истории нет — она крайне редкая. Встречается в основном в центральных и поволжских областях России, что подтверждает и тюркскую, и промысловую версию: там и татарское влияние сильно, и рыболовство было главным занятием. Если ваши предки родом из-под Казани или Самары, первая версия (от имени Бахты) — самая правдоподобная. Если из северных или волжских деревень — скорее, прозвище рыбака.