Фамилия Жмеринецкий звучит так, будто её обладатель родом из города Жмеринка. Это первая и самая очевидная версия, и она же самая правдоподобная. Жмеринка — крупный железнодорожный узел в Винницкой области Украины. В ономастике такие фамилии, образованные от названий населённых пунктов с помощью суффикса -ский/-цкий, называют «топонимическими». Они указывали на то, откуда человек родом или где владел землёй. Суффикс -цкий здесь закономерно возник на стыке основы (Жмеринк-) и суффикса (-ский): «к» перешло в «ц», и получилось не «Жмеринкский», а «Жмеринецкий».

Однако есть нюанс. В классической модели дворянских фамилий на -ский (вроде Вяземский или Трубецкой) ударение обычно падает на предпоследний слог: Жмери́нецкий. Но в бытовой, народной традиции фамилию могли произносить и с ударением на второй слог — Жме́ринецкий. Это могло возникнуть, если предки были не дворянами, а простыми крестьянами или мещанами, которых записывали «по месту выхода»: Иван из Жмеринки становился Иваном Жмеринским, а позже, в документах XIX века, фамилия могла закрепиться в форме Жмеринецкий.

Версия о происхождении от прозвища Жмера (от глагола «жмерить» — в некоторых говорах «смотреть, прищурившись» или «медлить») менее вероятна. Суффикс -ский редко крепился к личным прозвищам, не связанным с географией. Для этого скорее использовали бы суффиксы -ов или -ин (Жмерин, Жмеров). Поэтому основная гипотеза — географическая. Фамилия указывает на предка, который либо переехал из Жмеринки в другую местность, либо был приписан к этому городу по сословной принадлежности. Встречается она преимущественно в западных и центральных областях России и на востоке Украины, что подтверждает связь с Подольем, где расположена Жмеринка.