Germà del també director Josef Krips. Estudià a l’Acadèmia de Música i a la universitat de la seva ciutat natal. El 1932 debutà al Burgtheater de la capital austríaca i un any després començà a treballar com a director permanent a Innsbruck i a Salzburg. Entre el 1935 i el 1938 dirigí a Viena, fins que en fou expulsat pels nazis. Posteriorment es traslladà a Austràlia, on fundà la Krips-De Vries Opera Company. El 1941 començà a dirigir els Ballets Kirsova de Sydney i el 1947 fou contractat per l’emissora radiofònica ABC per a dirigir-ne l’orquestra. Al cap de dos anys dirigí l’Orquestra d’Adelaide i més tard, el 1967, inicià una sèrie de col·laboracions amb el Sadler’s Wells de Londres, ciutat on s’instal·là el 1972 i on actuà al capdavant de diverses orquestres com a director convidat.