Westchester Square war der Mittelpunkt des alten Dorfes und der Gemeinde Westchester.
Englische Siedler aus der Kolonie New Haven gründeten das Dorf um 1654 auf Land, das Thomas Pell von Ureinwohnern gekauft hatte; die Niederländer nannten es Oostdorp, „Ostdorf“. Bis 1895, als die Gemeinde zu New York City kam, war es Sitz der Town of Westchester. „Tremont“ prägte ein Postmeister im 19. Jahrhundert, der Überlieferung nach aus drei Hügeln: Mount Eden, Mount Hope und Fairmount.