Nommée d'après la baie, elle-même nommée d'après le poisson sheepshead.
Le quartier tient son nom d'une baie qui sépare le Brooklyn continental de la partie est de Coney Island. La baie a été nommée d'après le sheepshead (« tête de mouton »), un poisson comestible présent dans ses eaux. Le poisson doit probablement son nom à des traits rappelant le mouton, comme de grandes dents qui dépassent de la bouche ouverte. Sheepshead Bay était d'abord une communauté isolée de pêcheurs et d'agriculteurs, prolongement de la ville de Gravesend.