Nommée d'après la rue de Rome, qui honore la capitale de l'Italie.
La rue est l'une des 24 voies dessinées à partir de 1826 autour de la place de l'Europe par le banquier suédois Jonas-Philip Hagerman et Sylvain Mignon, serrurier du roi Charles X, et portant surtout des noms de villes européennes. En 1860, le quartier de l'Europe leur doit son nom ; la place de l'Europe et la rue de Liège ont aussi donné leur nom à des stations.