Estudià violí i viola a la Munich Academy, teoria musical i direcció orquestral privadament i musicologia a les universitats de Munic, Friburg, Viena i Tübingen, centre aquest darrer on es doctorà el 1929. Fou deixeble de W. Gurlitt a Friburg, d’A. Sandberger a Munic i de K. von Fischer i R. Haas a Viena. Feu un postdoctorat a la Universitat de Graz (1934) i ensenyà a la Universitat de Tübingen des del 1935. Fundà l’Arxiu Musical de la Regió de Suàbia i fou president de la Societat Mozart d’Alemanya (1951-57). S’interessà especialment pels precursors de W.A. Mozart i els lligams entre la música barroca i clàssica vienesa. El 1933 descobrí a Graz la col·lecció privada de música de l’emperador Franz II. El seu fill, Manfred Hermann Schmid, també és musicòleg.