« Marble Hill » vient des gisements de marbre découverts sous le quartier.
Marble Hill doit son nom, en 1891, aux gisements de marbre d’Inwood découverts sous le quartier. Autrefois partie de l’île de Manhattan, il devint une île séparée en 1817, lorsqu’un étroit canal fut creusé ; en 1895, ce canal fut élargi pour devenir le Harlem River Ship Canal. Des remblais ont rattaché Marble Hill au Bronx en 1913 ou 1914 (les sources divergent), mais le quartier fait toujours légalement partie de Manhattan.