« Harrow » vient du vieil anglais hearg, un temple ou sanctuaire païen.
Le temple se trouvait probablement sur la colline de Harrow, là où s'élève aujourd'hui l'église St Mary. South Harrow est né de l'ancien hameau de Roxeth, attesté dès 845, dont le nom signifierait la lande ou le lieu des freux, ou rappellerait un homme nommé Hrōc. La station a ouvert en 1903 sous le nom de South Harrow for Roxeth and Northolt.