Фамилия Карлионова — редкий случай, где суффикс и основа вступают в противоречие. На первый взгляд, перед нами типичная «матрешечная» модель: основа Карлион + суффикс -ов. Но если присмотреться, суффикс -он- в русских фамилиях почти не встречается в чистом виде. Скорее всего, мы имеем дело с фамилией, образованной от прозвища или имени через суффикс -ион-, который характерен для греческих заимствований (ср. Василион, Леонион). Тогда основа — Карл, а -ион- — уменьшительно-ласкательный или просто адаптирующий суффикс. То есть Карлион — это «маленький Карл» или «Карл, которого звали по-своему».

Самая вероятная версия происхождения — от имени Карл, которое пришло на Русь не напрямую, а через западноевропейские или польские влияния. В крестьянской среде имя Карл было редкостью, чаще его давали в дворянских семьях или в среде обрусевших немцев. Однако прозвище Карлион могло возникнуть и в народе: так могли называть человека, который работал у «Карла» — например, у помещика или управляющего с таким именем. Женская форма Карлионова закрепилась за потомками, вероятно, по отцу: «дочь Карлиона».

С географической точки зрения, фамилия почти не встречается в центральных областях России. Единичные записи есть в архивах южных губерний (Воронежская, Курская), где оседали выходцы с запада. Возможно, предки носителей фамилии были обрусевшими немцами или поляками, которые перешли в православие — тогда имя Карл могло быть заменено на созвучное Карп или каноническое, но прозвище сохранилось.

Менее вероятная, но допустимая версия — от греческого слова «карлион» (κάρυον — орех). В таком случае прозвище могли дать за крепкое сложение или за характер: «крепкий, как орешек». Однако греческая основа без посредничества церковных имен в русских фамилиях встречается редко, поэтому эта версия уступает первой по правдоподобию.