Doit son nom à l’ancien village de Karow, d’abord appelé Kare.
Le village est probablement né vers 1230 ; un certain Fridericus de Kare l’atteste indirectement dès 1244, et il figure sous le nom de Kare dans le registre foncier de l’empereur Charles IV de 1375. La gare ouvrit le 15 novembre 1882 sous le nom de Carow ; elle s’appelle Karow depuis 1901.