Estudià a la Universitat de Viena amb Guido Adler, i l’any 1926 es doctorà amb una tesi sobre la forma sonata en F. Schubert. També realitzà estudis de direcció a l’Akademie für Musik, però la influència més decisiva en la seva formació vingué dels seus estudis privats amb H. Schenker. El 1940 s’establí a Nova York, on esdevingué professor i més tard director al Mannes College of Music, centre on Hans Weisse havia introduït l’ús de mètodes derivats de les idees de Schenker per a l’aprenentatge de la teoria de la música. Posteriorment fou professor al Queens College de la Universitat de Nova York. Salzer ha estat un personatge cabdal en la divulgació de l’anàlisi schenkeriana. En aquest sentit cal destacar-ne l’edició dels Fünf Urlinie-Tafeln del seu mestre i molt especialment Structural Hearing (1952), llibre que desenvolupa una aproximació exhaustiva i sistemàtica al pensament de Schenker. En aquesta obra, Salzer eixamplà les possibilitats de l’anàlisi schenkeriana obrint-la a la música medieval i renaixentista, i també als llenguatges tonals del segle XX. Un altre important llibre de Salzer és Counterpoint in Composition (1969), escrit en col·laboració amb Carl Schachter.