Nommée d'après la rue de Tolbiac, qui rappelle la bataille de Tolbiac.
Clovis, roi des Francs, y battit les Alamans lors de la bataille qui porte le nom de Tolbiac, aujourd'hui Zülpich, près de Cologne en Allemagne. On la datait traditionnellement de 496, mais des révisions récentes la situeraient en 506. La première partie de la rue, ouverte en 1863 sous le nom de rue du Transit, devint rue de Tolbiac par un décret de Napoléon III du 10 août 1868.