Фамилия Колга берет начало от аналогичного прозвища. Оно восходит к эстонскому существительному kolgas со значением «глушь, окраина». Вероятно, именование Колга отражает особенности места, где жил его обладатель. Так могли назвать того, кто был выходцем из поселения, находящегося далеко от окружающих населенных пунктов. Кроме того, прзвище Колга мог носить человек, дом которого располагался на окраине деревни или села. Не исключено также, что именование Колга образовано от аналогичного существительного со значением «лыжи». В таком случае, прозвище Колга указывает на род занятий человека. Так могли назвать того, кто занимался изготовлением лыж.