Cursà estudis a la Royal Academy of Music de Londres, després d’haver-los iniciat al Trinity College. Ingressà com a violoncel·lista a l’Orquestra del Queen’s Hall i el 1924 fundà la Barbirolli Chamber Orchestra. Dos anys més tard creà la British National Opera Company, amb la qual dirigí òpera italiana. Entre el 1936 i el 1943 visqué a Nova York, i succeí Arturo Toscanini com a director de l’Orquestra Filharmònica de l’esmentada ciutat (1937). Abans del final de la guerra tornà a Anglaterra, on dirigí l’Orquestra Hallé fins l’any 1968. També dirigí les orquestres del Festival d’Edimburg i del Covent Garden durant els anys cinquanta, i del 1961 al 1967 estigué al davant de l’Orquestra Simfònica de Houston. Feu diverses gires per Europa i els Estats Units i ocasionalment fou també compositor. Morí sobtadament, mentre assajava amb la Philharmonia Orchestra.