Le nom de "Montagne Verte" n'est cité pour la première fois qu'en 1775 sur une gravure sous-titrée "Moulin près de la Montagne Verte" de Jean-Daniel Heimlich.
L'origine de ce nom est obscure ; la seule explication (avancée par Louis Schneegans, historien strasbourgeois, 1812-1858) réside dans l'existance de l'auberge de la Tour Verte et d'une sorte d'illusion d'optique : en venant du sud de Strasbourg, on pouvait voir des massifs d'arbres (peupliers) si denses et étendus qu'on aurait cru une petite montagne (alors qu'en réalité le paysage est plat !).