Baychester verbindet die nahe Eastchester Bay mit dem „chester“ älterer Ortsnamen.
Laut Forgotten New York war Baychester eine Immobilienentwicklung der 1890er-Jahre, deren Name die „chester“ von Eastchester und Westchester mit der nahen Eastchester Bay verband. Lehman College verortet das Gebiet zwischen den kolonialen Siedlungen Westchester und Eastchester. „Chester“ kommt vom lateinischen castrum, was Militärlager oder Festung bedeutet.