В основе прозвища Рубайло лежит глагол «рубить». Возможно, так прозвали человека, получившего рубленую рану, увечье на войне. Однако это прозвище могло указывать на ремесло предка. Так, он мог быть лесорубом, плотником, мясником. Кроме того, существовали «рубленые ратные люди», т.е. ополчение по наряду, выставленное от разрубов, волостей и пригородов. Поэтому вполне возможно, что основатель рода Рубайло был воином. Суффикс –айло указывает на то, что среди предков обладателя фамилии были литовцы.