Es formà a Roma amb Carlo Fontana. Tornà a Àustria, on desplaçà de càrrecs públics arquitectes italians, tradicionalment més ben considerats que els locals. Després d’una etapa borrominiana, exemplificada en diverses esglésies de Salzburg, assolí l’estil més personal cap al 1715, amb un barroc classicitzant que té el màxim exponent en la Karlskirche de Viena (1716-29), el projecte de la qual aconseguí d’imposar pel damunt del de Ferdinando Galli Bibiena. Fou ennoblit per Josep I. El seu fill Joseph Emmanuel Fischer von Erlach (Viena 1693 — 1742) prosseguí obres del pare, com la Hofbibliothek de Viena, i n'emprengué de pròpies.