Estudià a l’Escola de Música Toho de Tòquio, on es formà inicialment com a pianista. Un accident l’obligà a reorientar la seva formació i s’encaminà cap a la direcció orquestral. El 1959 prosseguí els seus estudis a Europa, inicialment a Berlín al costat de H. von Karajan i S. Kusevickij. Entre el 1961 i el 1965 fou assistent de L. Bernstein a l’Orquestra Simfònica de Nova York i del 1964 al 1968 dirigí a Ravenna, abans de passar a les orquestres de Toronto (1965-69), San Francisco (1970-76) i la Simfònica de Boston, de la qual fou director des del 1973 fins al 2002. Posteriorment fou el director principal de l’Òpera Estatal de Viena (2001-10). El 1969 es presentà amb Così fan tutte al Festival de Salzburg.
Especialitzat en el repertori de la música del segle XX, n’estrenà obres tan destacades com Saint François d’Assise, d’O. Messiaen (1983). Paral·lelament, treballà en diverses iniciatives musicals al Japó. Així, per exemple, participà activament en la fundació de la Nova Orquestra Filharmònica del Japó i de l’Òpera de Tòquio Nomori (2005), i en la creació, el 1992, del Festival Saito Kinen (Matsumoto). El mateix any 1992 debutà al Metropolitan de Nova York. Protagonitzà nombrosos enregistraments, amb formacions tan prestigioses com l’Orquestra Simfònica de Berlín, l’Orquestra Nacional de França o l’Orquestra Filharmònica de Londres.
Al llarg de la seva carrera fou reconegut amb nombrosos premis i guardons.