Фамилия Руйга — одна из тех, где сразу бросается в глаза необычный финал. Суффикс -га редко встречается в русских фамилиях, и это сразу подсказывает, что перед нами не типичная модель отчества на -ов или -ин. Такое окончание характерно для прозвищного происхождения, где основа слова застыла в именительном падеже. Скорее всего, фамилия произошла от прозвища Руйга, которое, в свою очередь, восходит к диалектному глаголу или существительному.

В русских говорах, особенно северных и сибирских, слово «руйга» или «руга» имело несколько значений. Прежде всего, это «шум», «суматоха», «тревога», «ссора». Человека могли прозвать Руйгой за беспокойный, крикливый нрав, за склонность к скандалам или, наоборот, за то, что он постоянно оказывался в центре шумных событий. В некоторых областях «руйгой» называли также болотистое, топкое место, но для фамилии это значение менее вероятно — прозвища по местности обычно оформлялись иначе (например, Руйгин или Руйгов).

Вторая, более редкая версия связывает фамилию с финно-угорским субстратом. В карельском и вепсском языках есть слово «ruiga» — «рябина». Если предки Руйги жили на северо-западе современной России, в Карелии или Вологодчине, прозвище могло быть дано по месту жительства (у рябинового куста) или по внешним чертам (например, румяный, как рябина). Эта гипотеза объясняет и редкость фамилии, и её ареал: фамилия Руйга встречается в основном в Архангельской, Вологодской областях и в Карелии.

По социальному составу, судя по географическому распространению, носители фамилии — потомки государственных крестьян или поморов. В дворянских родословных книгах фамилия не зафиксирована. В документах XVII–XVIII веков она могла писаться как «Руйга», без мягкого знака, что подтверждает её прозвищную, а не патронимическую природу. Иными словами, предок Руйги не был сыном человека по имени Руй — он сам носил это прозвище или жил в урочище с таким названием. Фамилия сохранила память о характере или ландшафте, а не о крестильном имени.