Germà del també director Henry Krips. Estudià a la seva ciutat natal, on es formà musicalment amb F. Weingartner, de qui fou assistent després d’un breu període com a violinista a l’Orquestra de la Volksoper. En 1921-24 dirigí els cors de l’esmentat teatre i posteriorment treballà als teatres d’òpera d’Aussig (1924-25) i Dortmund (1925-26), fins que el 1926 fou nomenat director general de música a Karlsruhe, on romangué fins el 1932. A partir del 1933 dirigí l’orquestra de l’Òpera de Viena, tasca que abandonà al cap de cinc anys fugint de la repressió nazi. El 1945 hi tornà, després d’un període de prohibició de set anys, i des del 1946 participà assíduament al Festival de Salzburg. Director de l’Orquestra Simfònica de Londres del 1950 al 1954, posteriorment es traslladà als Estats Units, on dirigí l’Orquestra Simfònica de Buffalo (1954-63) i el Cincinnati May Festival (1954-60). El 1968 tornà a l’Òpera de Viena i del 1970 al 1973 substituí W. Sawallisch al capdavant de l’Orquestra Simfònica. Realitzà nombrosos enregistraments, especialment d’obres de W.A. Mozart.