Després d’abandonar la carrera de medicina, començà a aprendre composició de manera autodidàctica a partir de l’estudi dels quartets de corda de W.A. Mozart i altres obres clàssiques. La seva Simfonia de cambra en fa M el feu mereixedor del Premi Mozart de Frankfurt (1909), ciutat on s’instal·là temporalment per estudiar piano. Del 1913 al 1929 fou professor de composició a la Musikhochschule de Mannheim. Aquest darrer any es traslladà a Berlín, on es dedicà a la docència i a la composició fins que el 1933, per la seva condició de jueu, es veié obligat a abandonar Alemanya. De primer anà a Londres i el 1934 emigrà als Estats Units. A Amèrica continuà la seva trajectòria com a professor i com a compositor i escriví música per al cinema. L’any 1940 adoptà la ciutadania nord-americana. El seu catàleg inclou composicions per a quasi tots els gèneres, escrites en un llenguatge neoclàssic enriquit amb elements cromàtics que ocasionalment poden acostar-lo a la atonalitat. La important activitat de Toch com a teòric donà lloc a diversos llibres, entre els quals destaquen The Shaping Forces in Music (1948) i Melodielehre ('Teoria de la melodia', 1923). L’original i gens ortodoxa manera d’abordar l’anàlisi musical fa que aquests escrits siguin encara plenament vigents.