Фамилия Халемская — это, скорее всего, не самостоятельное образование, а вариант более распространённого написания Холемская. Разница в первой гласной — «а» вместо «о» — типичный след аканья, когда в безударной позиции звук редуцируется, и на письме его фиксируют по-разному. Поэтому искать корень фамилии нужно в основе «Холем-».

Здесь открываются две главные версии, и они ведут в разные стороны. Первая связывает прозвище Холемский с географией Восточной Сибири, а именно с рекой Холема в районе Байкала. Если следовать этой логике, прозвище получал человек, который пришёл оттуда или жил на её берегах. Такие «географические» прозвища были обычным делом: по названию местности определяли, откуда родом человек, и это становилось его семейным именем. В этом случае фамилия указывает на вполне конкретное место происхождения рода.

Вторая версия уводит в другую языковую среду. Она выводит основу от еврейского имени Холем, которое переводится как «сновидение», «сон», «мечты». В этом случае фамилия — не от места, а от личного имени предка. Потомок человека по имени Холем со временем получал прозвище Холемский, а уже от него оформилась фамилия.

Какую версию считать более правдоподобной? Всё зависит от того, о какой ветви рода идёт речь. Для русской акающей традиции версия с рекой Холема выглядит органичнее: она объясняет и суффикс -ск-, который часто встречается именно в «географических» фамилиях, и само наличие прозвища. Версия с еврейским именем тоже имеет право на существование, но она более редкая и требует отдельного подтверждения в каждом конкретном случае. Так что, выбирая между «рекой» и «сном», стоит сначала выяснить, откуда родом были ваши предки.