Nommée d'après la rue Saint-Sulpice, qui longe l'église Saint-Sulpice.
L'église est dédiée à Sulpice le Pieux (vers 576-647), chapelain du roi Clotaire II et, à partir de 624, évêque de Bourges. L'édifice actuel remplaça une église de 1211 devenue trop petite. La rue reçut son nom en 1851, par la fusion de la rue du Petit-Bourbon et de la rue du Petit-Lion, nommée d'après une enseigne.