Es formà al Royal College of Music de Londres i amplià els seus coneixements a París, Berlín i Munic. Després d’una estada a Nova York l’any 1905, on exercí d’organista i director de cor a l’església de Saint Bartholomew, el 1908 debutà com a director d’orquestra a Londres. El 1909 tornà als Estats Units i es feu càrrec de l’Orquestra Simfònica de Cincinnati, que dirigí fins el 1912. Aquest any es posà al capdavant de l’Orquestra de Filadèlfia, i es mantingué en el càrrec durant trenta anys. Del 1941 al 1949 fou cotitular, juntament amb A. Toscanini, de l’Orquestra Simfònica de l’NBC, i el 1953 fundà la Societat de Música Contemporània de Nova York. Intèrpret polèmic, subjectiu i capriciós, fou considerat un virtuós de la direcció i arribà a ser molt popular gràcies a la seva participació en diverses pel·lícules (la més famosa de les quals fou Fantasia, de Walt Disney). Destacà com a intèrpret del gran repertori clàssic i romàntic, en els originals del qual efectuà alguns canvis que li valgueren moltes crítiques. Escriví nombrosos arranjaments d’obres alienes, tan poc respectuosos, heterodoxos i personals com espectaculars i, indiscutiblement, brillants. El 1974 deixà l’activitat concertística per a dedicar-se exclusivament als enregistraments discogràfics.