Фамилия Нерубаевы — яркий пример того, как русская фамилия может хранить в себе не просто прозвище, а целую историю, почти былину. В отличие от большинства фамилий на -ов, образованных от мирских имён или профессий, основа здесь — глагол с отрицанием. «Нерубай» — это не просто «тот, кто не рубит», а стойкий, несгибаемый человек, которого не сломить ни в бою, ни в споре. Прозвище могли дать либо упрямцу, которого ничем не проймёшь, либо, что вероятнее, отчаянному воину, который сам «не рубится» с противником, а стоит насмерть, или, наоборот, такого мастера, чей удар неотразим. В народной речи «нерубаем» называли и того, кто не поддаётся уговорам, — крепкий орешек.

Словообразовательная модель фамилии проста и типична для южнорусских и украинских земель: прозвище Нерубай (с характерным суффиксом -ай, часто образующим прозвища от глаголов: «гуляй», «ломáй») + фамильный суффикс -ев. Окончание -ев, а не -ов, указывает на мягкую основу (Нерубай → Нерубаев). Такая фамилия могла возникнуть в среде казачества или вольных крестьян, где ценилась личная удаль и непреклонность. В реестрах запорожских и донских казаков можно встретить схожие прозвища, построенные по той же модели: Неубий, Небей, Небой. Все они — из той же богатырской, «непобедимой» серии.

Встречаются и альтернативные, менее убедительные версии. Иногда фамилию связывают с топонимом Нерубай — так называется село в Кировоградской области Украины. В этом случае фамилия могла произойти от названия населённого пункта, но первичным всё равно остаётся то же прозвище или даже река с таким именем. Другая гипотеза выводит основу из тюркских языков, где «неру» может означать что-то вроде «светлый» или «луч», но это натяжка: звуковой облик фамилии и её прозрачная славянская внутренняя форма делают тюркскую версию маловероятной. Географически фамилия Нерубаевы чаще всего встречается на юге России и в восточной Украине, что подтверждает её казачьи или крестьянские корни из чернозёмных областей. Фамилия редкая, и её носители, скорее всего, ведут род из одного или нескольких близких гнёзд.