Фамилия Карелина образована от прозвища Карелин, которое означает «выходец из карел». Карелы — это финно-угорский народ, коренное население Карелии, их самоназвание — карьяла. В русском языке слова, обозначающие представителя национальности, нередко образуются с помощью суффикса -ин-: татарин, мордвин, литвин. Прозвище Карелин возникло по той же модели. Однако, скорее всего, предок Карелиных был не этническим карелом, а переселенцем из Карелии — например, беженцем от шведских нашествий в годы правления Петра I. Прозвище закрепилось за человеком как основное именование, а со временем легло в основу фамилии. Со временем суффикс -ин стали ошибочно воспринимать как русское фамильное окончание принадлежности, откуда и возник женский вариант Карелина.

Сведения о представителях фамилии встречаются в архивных документах. В Книге памяти Астраханской области есть запись о Карелине Александре Дмитриевиче (1882 года рождения, село Цветное Зеленгинского района). Из документов Рязанской области известен Карелин Алексей Васильевич (1879 года рождения, Сапожковский район). В Книге памяти Красноярского края отмечен Карелин Кирилл Васильевич (1876 года рождения, Ачинский округ Енисейской губернии).

Среди знаменитых однофамильцев — географ и путешественник Григорий Силыч Карелин (1801–1872), первым описавший залив Кара-Богаз-Гол; Владимир Александрович Карелин (1891–1938), один из лидеров левых эсеров; Владимир Яковлевич Карелин (родился в 1931), действительный член международной и Российской инженерных академий; а также Александр Карелин (родился в 1967), чемпион Олимпийских игр, мира, Европы, СНГ и России по греко-римской борьбе.