Fill de Leonid Kogan, fou alumne de l’Escola Central de Música de Moscou i continuà els estudis al conservatori d’aquesta ciutat. L’any 1970 fou distingit amb el primer premi del Concurs Internacional de Violí Jean Sibelius de Hèlsinki. Aquest premi marcà el principi d’una carrera important com a concertista, sovint al costat de la seva germana Nina, pianista. Debutà com a director amb l’Orquestra Filharmònica de Leningrad el 1974. L’any 1988 obrí la temporada del Teatre Bol’šoj de Moscou amb La Traviata, de G. Verdi. Fou nomenat director permanent d’aquesta orquestra i de l’Orquestra Filharmònica de Zagreb. Debutà als EUA el 1997 en dos concerts amb l’Orquestra Simfònica de Milwaukee i l’Orquestra Simfònica de Utah, formació de la qual és principal director convidat des del 1998.