Doit son nom à Hermsdorf, un vieux village sur le Tegeler Fließ.
Un habitat slave tardif apparut au bord du ruisseau Tegeler Fließ à la fin du 11e siècle ; vers 1230, des colons allemands s’en emparèrent. Le village est mentionné pour la première fois en 1349 sous la forme Hermanstorp. La gare ouvrit en 1877 sous le nom de Hermsdorf (Mark) et s’appelle Berlin-Hermsdorf depuis 1937/1938.