Fill del director Arvid Jansons i de mare jueva, sobrevisqué amagat a les ràtzies dels nazis al gueto de Riga. El 1956 ingressà al Conservatori de Leningrad (des del 1991 Sant Petersburg), on estudià violí, piano i direcció d’orquestra. El 1969 es traslladà a Viena, on fou deixeble de Hans Swarowsky, i més tard a Salzburg (1970), on es formà amb Herbert von Karajan. El 1971 guanyà el segon premi del concurs Herbert von Karajan a Berlín. El 1973 fou nomenat director associat de l’Orquestra Filharmònica de Leningrad, i en 1979-2000, director principal de la Filharmònica d’Oslo, formació que situà entre les de primer nivell internacional. Director principal invitat de l’Orquestra Filharmònica de Londres (1992-96), malgrat que des d’aquest any patí una important afecció cardíaca, mantingué un nivell d’activitat incessant: entre altres càrrecs, del 1997 al 2004 fou director principal de l’Orquestra Simfònica de Pittsburgh, el 2003 fou nomenat director principal de l’Orquestra Simfònica de Ràdio Baviera i el 2004 de l’Orquestra Reial del Concertgebouw d’Amsterdam. Compaginà la direcció d’ambdues formacions fins el 2016, que dimití de la segona. Els anys 2006, 2012 i 2016 dirigí el Concert de Cap d’Any al capdavant de l’Orquestra Filharmònica de Viena. Molt decantat vers l’obra de compositors russos (Šostakovič, Čajkovskij, Stravinsky, Rakhmaninov), entre altres distincions rebé el premi Grammy a la millor interpretació orquestral per la simfonia número 13 de D. Šostakovič (2005), el premi Artista de l’Any del MIDEM de Canes (2005), el premi Ernst von Siemens (2013), la Medalla d’Or de la Royal Philharmonic Society (2017) i fou nomenat membre d’honor (2018) de l’Orquestra Filharmònica de Berlín.