Benannt nach der 23rd Street, dem Südrand eines geplanten militärischen Paradeplatzes.
Der Commissioners’ Plan von 1811 hielt das Gelände zwischen 23rd und 33rd Street sowie Third und Seventh Avenue als „Grand Parade“ frei, als offene Fläche für militärische Übungen und als Sammelplatz im Fall einer Invasion. Das Gelände wurde nach und nach verkleinert: 1847 waren nur noch 7 Acres übrig, das Land des heutigen Madison Square Park.