Benannt nach der 34th Street und der Penn Station, erbaut von der Pennsylvania Railroad.
Die Penn Station ist nach der Pennsylvania Railroad benannt, ihrer Erbauerin und ersten Eigentümerin; der ursprüngliche Bahnhof wurde am 27. November 1910 vollständig eröffnet. Empfangsgebäude und Bahnhofshalle wurden 1963 abgerissen, und die Gleisanlagen bilden seither den kleineren unterirdischen Bahnhof von heute. Die 34th Street war eine der 15 Ost-West-Straßen, die der Commissioners’ Plan von 1811 100 Fuß breit anlegte.