Instal·lada des del 1623 a l’antic palau imperial, el 1727 passà a ocupar l’edifici, d’estil barroc, construït per J.B. i J.E.Fischer von Erlach. Ha estat successivament enriquida per biblioteques com la de la família Fugger (1656) i la del príncep Eugeni (1737), així com per les aportacions, obtingudes per la secularització, d’altres biblioteques eclesiàstiques. El 1986 tenia 2 350 000 volums, uns 8 000 incunables, 35 000 manuscrits, 120 000 autògrafs i diverses col·leccions especials de mapes, papirs, documents musicals, retrats, etc.