Després d’un període inicial, en foren directors principals, successivament, Hans von Bülow (1887-95), Arthur Nikisch (1895-1905) i Wilhelm Furtwängler (1905-1954), que aconseguiren de l’orquestra l’homogeneïtat i la precisa coordinació entre els músics que l’havien de fer famosa. Del 1885 al 1911, a banda de la temporada normal, interpretà anualment un cicle de concerts d’estiu a la localitat de Scheveningen (Països Baixos). A la postguerra, Herbert von Karajan (1954-1989) intensificà la projecció mundial de la formació gràcies a l’ambició de les interpretacions, una certa teatralitat i una acusada identificació amb l’orquestra. Durant aquests anys, multiplicà els enregistraments amb l’empresa discogràfica Deutsche Grammophon Gesellschaft, i un bon nombre d’àlbums de la marca són considerats fites de la discografia de la música clàssica. El 1963 s’inaugurà la Berliner Philharmonie, seu actual de l’orquestra, obra de l’arquitecte Hans Scharoun. El 1983 s’iniciaren els concerts d’estiu a l’aire lliure del Waldbühne, el “Teatre al bosc” de Berlín, que s’han mantingut fins avui, i des del 1967 l’orquestra actuà anualment als Festivals de Pasqua (fins el 2012 a Salzburg i, posteriorment, a Baden Baden). Karajan fou succeït per Claudio Abbado (1989-2002), el qual, al capdavant de l’orquestra el 1991 començà a interpretar anualment els anomenats concerts europeus en diferents ciutats del continent. Coincidint amb l’arribada de Simon Rattle (2002), fou creada la Fundació Filharmònica de Berlín, de la qual depèn l’orquestra. Entre moltes iniciatives de l’era Rattle, cal esmentar el programa BPO Education i, a partir del 2008, l’obertura de la plataforma Digital Concert Hall, que ofereix concerts en directe per internet, i el llançament d’una marca discogràfica pròpia. Una de les peculiaritats de la formació és l’elecció del director titular per vot secret dels seus músics. El 2015 fou elegit nou director Kirill Petrenko, que succeí Rattle a partir del 2018.