Фамилия Анкерштейн — яркий пример немецкой или еврейской фамилии, образованной по модели «основа + -штейн» (нем. Stein — «камень»). Второй компонент здесь не случаен: в немецкой ономастике суффикс -штейн часто указывал на происхождение из местности с каменистой почвой или на владельца каменного строения (замка, дома). Первая часть, «Анкер», может восходить к нескольким источникам.

Самая прямая версия — от немецкого Anker («якорь»). В таком случае фамилия могла быть прозвищем моряка, судовладельца или мастера, делавшего якоря. В средневековых ремесленных городах Германии прозвище «Анкер» нередко закреплялось за человеком, чья работа или характер ассоциировались с этим символом надёжности и прочности. Вторая версия — топонимическая: «Анкер» могло быть названием населённого пункта (например, Анкер в Тюрингии или Анкерсхаген в Мекленбурге). Тогда Анкерштейн — «камень из Анкера» или «человек из Анкера, живущий у каменного дома».

Морфологически фамилия сложная, сращение двух корней без соединительной гласной, что типично для немецких композитов. В русском языке фамилия не получила суффикса -ов/-ев, так как её основа была заимствована в неизменном виде. Это указывает на то, что носители фамилии, скорее всего, были выходцами из немецкоязычных земель (возможно, из прибалтийских губерний Российской империи, где такие фамилии встречались у остзейских немцев) или евреями-ашкеназами, которые в XVIII–XIX веках часто получали фамилии по модели «профессия/место + -штейн».

С точки зрения сословной принадлежности, фамилия могла принадлежать как ремесленникам (кузнецам, корабельщикам), так и горожанам среднего достатка. В дворянских гербовниках Российской империи фамилия не зафиксирована, что делает маловероятным её аристократическое происхождение. Географически Анкерштейны чаще встречаются в Центральной и Восточной Европе, а в России — в регионах, где исторически селились немецкие колонисты (Поволжье, Новороссия) или еврейские общины (черта оседлости).

Редкая деталь: в некоторых вариантах написания фамилия фиксировалась как «Анкерштэйн» (с буквой «э» после «ш»), что отражает немецкое произношение Stein как «штайн». В русском языке устоялся вариант с «е», но в старых метрических книгах можно встретить обе формы. Это говорит о том, что фамилия была принесена в Россию не позже середины XIX века, когда правила транслитерации ещё не устоялись.