Фамилия Яловои — редкий случай, где написание говорит о происхождении больше, чем звучание. Форма на -ой (а не на -ов) указывает на то, что это не отчество, а застывшее прилагательное, отвечающее на вопрос «какой?». В русском языке такие фамилии типичны для южных и западных регионов, особенно для Украины и Беларуси, где прилагательные в фамилиях нередко сохраняют ударное окончание -ой. Сравните: Толстой, Грязной, Босой.

Основа фамилии — слово «яловой», которое в диалектах и старой речи означало «бесплодный», «не дающий приплода». Так говорили о корове, которая не телилась, о земле, не приносящей урожая, или о дереве, не плодоносящем. В переносном смысле «яловым» могли назвать и человека — например, холостого или бездетного, но чаще прозвище давали по хозяйственному признаку: хозяину, у которого скот не размножался, или земледельцу на неплодородной почве.

Есть и вторая, менее очевидная версия. В некоторых говорах «яловый» — вариант слова «еловый», то есть связанный с елью. Тогда прозвище Яловой мог получить человек, живший в еловом лесу или занимавшийся заготовкой еловой древесины. Однако эта гипотеза слабее: форма «яловой» в значении «еловый» встречается редко и локально, а «бесплодный» — общеславянское значение, зафиксированное в словарях Даля и Фасмера.

Судя по модели, фамилия Яловои могла возникнуть как прозвище, которое затем закрепилось за потомками без дополнительных суффиксов. В крестьянской среде такие прозвища нередко становились фамилиями в готовом виде — особенно в тех регионах, где фамилии оформлялись позже и проще. Носитель фамилии Яловои сегодня, скорее всего, имеет предков из украинских или белорусских губерний, где окончание -ой сохранялось в документах вплоть до XX века.