L’histoire du chant « La Légion marche » est liée à la Légion Condor et aux divisions SS, allemande et française. La Légion Condor était une force aérienne formée à partir d'effectifs de la Luftwaffe de l'Allemagne nazie, qui combattit en Espagne durant la guerre civile entre janvier 1937 et avril 1939. C’est elle la première à avoir chanté le chant avec des paroles différentes. Puis le Division SS allemande durant la guerre avec la Russie a adopté ce chant. En même temps les divisions SS Charlemagne en France et Viking en Norvège à leur tour adoptent ce chant en créant les paroles dans les langues respectives.
Après la seconde guerre mondiale des nombreux Allemands s’engagent à la Légion étrangère en particulier dans les bataillons parachutistes entre autre au 2BEP. Tout naturellement adoptent le chant des divisions SS et change les paroles par rapport à la situation géopolitique.