Es formà musicalment al Conservatori de Frankfurt i, un cop acabats els estudis, començà a dirigir a les òperes de Friburg i Darmstadt, fins que el 1929 marxà a Praga, on treballà durant sis anys amb George Szell. El 1935 fugí de la capital txeca davant la invasió alemanya i es traslladà a Suècia. Cinc anys més tard s’establí als Estats Units, on, per mediació de Georges Szell, començà a dirigir a la Metropolitan Opera House de Nova York, institució de la qual fou conseller artístic entre el 1950 i el 1958. Sense trencar mai els seus lligams amb el Metropolitan, també actuà amb l’Orquestra Simfònica de Cincinnati, que dirigí com a titular del 1958 al 1970. Exercí la docència a l’Institut Curtis de Filadèlfia, i fou un dels directors d’orquestra més reconeguts del seu temps, com ho demostren els nombrosos premis i guardons que rebé els darrers anys de la seva carrera.