Nommée d'après la 125th Street, co-nommée Martin Luther King Jr. Boulevard et souvent considérée comme la « rue principale » de Harlem.
Dans le Commissioners’ Plan de 1811, la 125th Street était l'une des 15 rues est-ouest larges de 100 pieds ; les autres rues en mesuraient 60. À son extrémité ouest, elle suit aujourd'hui ce qui s'appelait Manhattan Street jusqu'en 1920, et son tracé d'origine y devint La Salle Street. Le New York Times déplora ces changements, notant que les conseillers municipaux de la ville « aiment les noms français ».