Фамилия Николаем — редкий и необычный случай в русской ономастике. Она не входит в число распространённых фамилий, и её происхождение напрямую связано с именем Николай, но с одной важной особенностью: в основе лежит не каноническая форма имени, а её творительный падеж.

Обычно русские фамилии образуются от имени отца (патроним) с помощью суффиксов -ов/-ев или -ин: Николаев (от Николая), Никольский (от географического названия, связанного с Никольским храмом). Фамилия Николаем же использует форму «Николаем» — как если бы предка звали «Николай», а его потомка прозвали «чей? — Николаем». Такая модель встречается редко, но она возможна. Она могла возникнуть в среде, где фамилии фиксировали не по отцу, а по прозвищу, данному в быту: «Николаем» могли назвать человека, который чем-то напоминал носителя этого имени, или же это была форма, закрепившаяся в документах при переписи из-за ошибки писаря.

Вторая, более прозаичная версия — фамилия могла быть записана в церковных или гражданских книгах как «Николаев», но из-за местного говора или небрежности переписчика превратилась в «Николаем». В некоторых регионах России, особенно на севере и в Сибири, окончание -ем вместо -ев встречается в фамилиях, образованных от имён с мягкой основой (сравните фамилию «Алексеем» или «Васильем» — они существуют, хотя и считаются ненормативными).

Скорее всего, предок носителя фамилии Николаем был крестьянином или мещанином, и фамилия закрепилась за ним в XVIII–XIX веках, когда массово присваивались фамилии по имени отца. Редкость формы говорит о том, что фамилия не прошла «литературную» обработку в канцеляриях — её записали так, как слышали в устной речи. Поэтому искать точную географию сложно: носители встречаются единично, в основном в центральной России и Поволжье, но без выраженного ареала.

Если коротко: фамилия Николаем — это нестандартный патроним от имени Николай, возникший либо из-за диалектного произношения, либо как прозвище. Она не имеет отношения к дворянству или духовенству — это народная, «живая» форма, сохранившаяся вопреки правилам русского словообразования.