Germà del també músic Johann Nepomuk Fuchs (1842-1899) . Realitzà estudis de magisteri abans de traslladar-se a Viena el 1865, on estudià al conservatori amb Dessoff i Hellmesberger i on treballà primer de professor i organista. El 1874 aconseguí el seu primer èxit com a compositor, amb la Serenata núm. 1, en re M, opus 9. L’any següent fou nomenat director de la Gesellschaft der Musikfreunde i professor del conservatori, on, fins el 1912, impartí classes a tota una generació de futurs famosos compositors: G. Mahler, J. Sibelius, H. Wolf i A. von Zemlinsky. Amb la seva primera simfonia, molt apreciada per Brahms (amic i mentor seu), Fuchs fou guardonat amb el Premi Beethoven del 1886. A més, compongué dues òperes, cinc simfonies i nombrosa música vocal i de cambra.