Es formà de manera autodidàctica en música, literatura i art gràcies a l’encoratjament del seu pare. Estudià dret a Halle, però després d’una breu carrera com a advocat decidí dedicar-se a la música i adquirí notorietat com a editor del "Berliner Allgemeine Musikalische Zeitung" ('Revista berlinesa de música', 1824-30). A Berlín continuà els estudis de composició amb C.F. Zelter. Després de rebre un doctorat a la Universitat de Marpurg (1828), fou nomenat professor de música a la Universitat de Berlín (1830) i, posteriorment, director del departament de música (1832). El 1850 fundà, juntament amb Th. Kullak i J. Stern, la Berliner Musikschule. Escriví articles per a diferents publicacions i també per a diccionaris, així com tractats sobre aspectes històrics i estètics. La seva obra més influent fou Die Lehre von der musikalischen Komposition ('L’ensenyament de la composició musical', 1837-47), destinada als estudiants de la Universitat de Berlín, on intentà tractar de manera molt sistemàtica i simplificada cada aspecte de la composició. Els seus plantejaments foren innovadors i sembla que fou el primer teòric que usà el terme ’forma sonata’ per a referir-se a l’estructura interna d’un moviment.