Фамилия Балтийакая — редкий случай в русском ономастиконе, и её происхождение почти наверняка не славянское, а тюркское. В основе лежит топоним или этноним «Балтия» — так по-русски называют регион Балтийского моря. В тюркских языках (особенно в турецком, крымскотатарском, азербайджанском) суффикс «-кая» означает «скала» или «гора». Получается буквально «Балтийская скала» или «Гора Балтии». Скорее всего, фамилию дали человеку, жившему у скалистого берега Балтики, или переселенцу с побережья, которого прозвали по месту прежнего жительства.

Модель образования здесь не русская: в русских фамилиях компонент «-кая» обычно входит в суффикс прилагательного (-ская), а в тюркских это отдельное слово, приросшее к основе. Поэтому Балтийакая — не переделка русской фамилии вроде Балтийский, а самостоятельное тюркское образование. Вариант с «й» в середине (Балтийакая, а не Балтиакая) указывает на то, что основа «Балти» уже содержит йот — это заимствованная основа, адаптированная через русское «Балтий-».

Географически фамилия могла возникнуть в среде крымских татар или турок, живших в северном Причерноморье, где были контакты с балтийскими народами, либо у народов Северного Кавказа, куда топоним попал через русскую администрацию. Встречается она крайне редко — в основном у потомков тюркских народов, переселившихся в Россию в XIX–XX веках. Сословной привязки нет: фамилия не дворянская и не крестьянская в классическом русском понимании, а скорее поздняя, искусственная или прозвищная.

Сравнение с похожими фамилиями — Балтакая, Балтийский — показывает, что Балтийакая стоит особняком: в ней нет русского суффикса прилагательного, зато есть тюркский географический компонент. Если ваш предок носил такую фамилию, он, вероятнее всего, был выходцем из тюркоязычной среды, связанной с побережьем Балтийского моря или с местом, названным в честь Балтики.