„Harrow“ kommt von altenglisch hearg, ein heidnischer Tempel.
Der Tempel stand wahrscheinlich auf dem Harrow Hill, wo heute die Kirche St Mary steht. Der Hügel ist zuerst 767 als Gumeninga Hergae belegt, was vielleicht der heidnische Tempel eines Stammes namens Gumeningas bedeutet. 1398 erscheint der Name als Harrowe atte Hille.