Estudià a Berlín (1838-39) i Leipzig (1840-45), i entre els seus mestres tingué músics tan destacats com F. Mendelssohn i R. Schumann. El 1846 es traslladà a Viena, on seguí la seva formació musical. En el seu cercle d’amistats hi havia importants erudits i músics de l’època, entre ells J. Brahms i J. Joachim. Tot i la seva activitat de compositor, destacà sobretot com a musicòleg. En un període decisiu per a la musicologia, Nottebohm i altres contemporanis com L. Köchel i J.A.P. Spitta donaren una nova orientació a les biografies, tot basant-les en fets documentats més que en reminiscències personals. També desenvoluparen una nova metodologia en l’edició musical a través de valoracions crítiques extretes de l’estudi de totes les fonts d’informació disponibles. Quant a l’obra de Nottebohm, cal esmentar l’estudi dels manuscrits de L. van Beethoven.