Фамилия Яругин образована от прозвища или нецерковного имени Яруга. В русских говорах «яруга» — это овраг, глубокий лог, балка, иногда поросшая лесом. Слово это южнорусское и украинское, родственное «яр» (крутой берег, обрыв). Человек мог получить прозвище Яруга, если жил у оврага или в овражистой местности, либо по характеру — замкнутый, «глубокий», нелюдимый. Суффикс -ин указывает на принадлежность: Яругин — сын или потомок Яруги. Это типичная модель для русских фамилий на -ин, образованных от основ на -а, -я.

Вторая, менее вероятная версия связывает фамилию с тюркским корнем «яры» (враг, чужак). В XVI–XVII веках на южных рубежах России фиксировались служилые люди с прозвищем Ярыга, Яруга — так могли называть выходца из «дикого поля». Но для фамилии Яругин эта гипотеза слаба: ударение и огласовка расходятся, к тому же в русской ономастике связь с рельефом встречается гораздо чаще.

Фамилия редкая, её география тяготеет к югу России — Курская, Белгородская, Воронежская области, а также к украинским землям, где слово «яруга» в ходу до сих пор. Встречаются однокоренные фамилии Яруга, Яружкин, Яров, но Яругин стоит особняком из-за суффикса -ин, который в этом ряду нечаст. Сословно предки Яругиных скорее всего были крестьянами или однодворцами — на юге фамилии на -ин часто закреплялись именно за этими группами. Дворянских родов с такой фамилией в родословных книгах не значится.