„Harrow“ kommt von altenglisch hearg, ein heidnischer Tempel.
Der Tempel stand wahrscheinlich auf dem Hügel, wo heute die Kirche St Mary steht. Die Station wurde 1880 als Harrow eröffnet und hieß ab 1894 Harrow-on-the-Hill, obwohl sie am Fuß des Hügels liegt, im damaligen Weiler Greenhill, 1334 als Grenehulle belegt. Greenhill ist inzwischen zum Stadtzentrum von Harrow geworden.