Inicià els estudis de violí a tres anys amb la seva mare, i més tard fou alumne d’Otakar Ševcík a Písek i de Julius Winkler a Viena. La seva primera aparició pública oficial tingué lloc a Copenhaguen l’any 1926 interpretant el Concert per a violí de Felix Mendelssohn. Fou nomenat violí concertino de la Simfònica de Viena quan només tenia disset anys, i del 1937 al 1949 ocupà el mateix lloc a la Filharmònica de Viena. Paral·lelament exercí una important tasca pedagògica al Mozarteum de Salzburg (1938-56) i també constituí un quartet amb companys de la Filharmònica. El 1948 formà un trio amb Enrico Mainardi i Edwin Fischer, amb els quals tocà habitualment fins el 1960, any de la mort de Fischer. Fou un dels fundadors de l’Ensemble del Festival de Lucerna, que debutà oficialment el 1957. Aquests anys, a més de tocar el violí, començà a dirigir. Fou el primer intèrpret d’Arios, de Hans Werner Henze (Salzburg, 1963), amb la soprano Irmgard Seefried, la seva esposa.