Doit son nom à l’Iderfenngraben, un fossé (« Graben ») à l’extrémité ouest de la rue.
La rue fut tracée en 1904 sous le nom de Zietenstraße, d’après le général de hussards prussien Hans Joachim von Zieten. En 1951, le Magistrat du Grand Berlin la rebaptisa dans le cadre d’une campagne de changements de noms antiroyaliste, en choisissant le fossé local. La rue croise l’Iderfenngraben et le Zingergraben.