Nommée d'après la rue du Chemin-Vert.
Le nom rappelle l'époque où la rue traversait des jardins maraîchers. Le 24 octobre 1776, Jean-Jacques Rousseau l'emprunta pour gagner les hauteurs de Ménilmontant, puis poursuivit à travers vignes et prairies jusqu'à Charonne, comme il le raconte dans ses Rêveries du promeneur solitaire. En 1868, la rue fut réunie à la rue des Amandiers-Popincourt.