S’inicià amb C. Orff, i posteriorment estudià música a l’Acadèmia de Música de Munic del 1920 al 1924, any en què fou nomenat professor. Dirigí el Bachgeschellschaftchor des del 1928. Durant la Segona Guerra Mundial ensenyà composició al Conservatori de Graz, del qual esdevingué professor titular el 1944. Dos anys després es traslladà al Conservatori de Stuttgart, on ensenyà composició i teoria, i el 1955 fou designat director de l’Escola de Pedagogia Musical. Per damunt de tot, Marx es dedicà a la música vocal i coral, i feu aportacions destacades a la música per a joves a Alemanya, utilitzant una polifonia lineal d’origen preclàssic i adaptable a les capacitats tècniques dels cors.