Es doctorà a la Universitat de Leipzig, on fou ajudant de la càtedra d’anàlisi química; és conegut pel fet d’haver posat a punt el procés Haber-Bosch d’obtenció d’amoníac a escala industrial. L’any 1931 rebé, juntament amb Friedrich Bergius, el premi Nobel de química.