Deixeble de Finn Hnffding i Knud Jeppesen, el 1929 es traslladà a Berlín, on fou alumne d’Ernst Toch. A la capital alemanya conegué la pianista romanesa Meta May Graf, amb qui es casà cinc anys després. El 1933 i el 1934 visità Romania, i aquests viatges li despertaren l’interès per la música popular. Durant els anys trenta fou professor particular de música, i entre el 1947 i el 1955 exercí de crític musical en el diari "Politiken" de Copenhaguen. El 1950 ingressà com a professor al conservatori de la capital danesa, càrrec que conservà fins el 1965, any en què abandonà la docència per dedicar-se a la composició a temps complet. Reconegut com el simfonista danès més important després de Carl Nielsen, la seva maduresa musical arribà amb la composició de les simfonies núm. 3 a 6, escrites la dècada dels anys quaranta, si bé també cal destacar els quartets de corda núm. 1 a 3, que, sense cap mena de dubte, sintetitzen la seva posició musical. Holmboe treballà molt per encàrrec, però també feu composicions que, per iniciativa pròpia, dedicà a grups o persones que admirava, com ara els preludis dedicats a l’escriptor Robert Layton, o els quartets de corda escrits per al Copenhaguen String Quartet. Immers en un particular neoclassicisme, el seu Requiem for Nietzsche (1964), amb text del poeta Thorkild Bjornvig, és considerat una de les obres clau d’un compositor que, els darrers anys noranta, ha rebut una atenció especial en les programacions musicals del nord d’Europa.
14 simfonies (fa m, 1927; re m, 1928; núm. 1, op. 4, 1935; núm. 2, op. 15, 1939; núm. 3, Sinfonia rustica, op. 25, 1941; núm. 4, Sinfonia sacra, cor, orq., op. 29, 1941; núm. 5, op. 35, 1944; núm. 6, op. 43, 1947; núm. 7, op. 50, 1950; núm. 8, Sinfonia boreale, op. 56, 1951-52; núm. 9, op. 95, 1967-68; núm. 10, op. 105, 1970-71; núm. 11, op. 144, 1980-81; núm. 12, 1988); 3 suites orq. cambra (núm. 1, op. 1, 1935; núm. 2, op. 6, 1936; núm. 3, op. 11, 1936); Concert per a violí, op. 14 (1938); 13 concerts de cambra (núm. 1, pno., orq. cambra, op. 17, 1939; núm. 2, fl., vl., instr. c. op. 20, 1940; núm. 3, cl., 2 trpt., 2 tr., instr. c., op. 21, 1940; núm. 4, vl., vlc., orq., op. 39, 1942; núm. 5, vla., orq., op. 31, 1943; núm. 6, vl., porq., op. 33, 1943; núm. 7, ob., orq., op. 37, 1945; núm. 8, Sinfonia concertante, op. 38, 1945; núm. 9, vl., vla., orq., op. 39, 1946; núm. 10, instr. metall, instr. c., op. 40, 1946; núm. 11, trpt., tr., instr. c., op. 44, 1948; núm. 12, trb., orq., op. 52, 1950; núm. 13, ob., vla., orq., op. 67, 1955-56); Epitaph, op. 68 (1956); Kairos, op. 73 (1957-62); Epilogue, op. 80 (1961-62); Tempo variabile, op. 108 (1971); Diafora, op. 118 (1973); Concert per a flauta, op. 126 (1975); Concert per a tuba, op. 127 (1976)
21 qt. c.; 2 sonates per a violí (núm. 1, op. 2, 1935; núm. 2, op. 16, 1939); Sonatina capricciosa, fl., pno., op. 27b (1942); Quartetto medico, fl., ob., cl., pno., op. 70 (1956); Tropos, vla., qt. c., op. 75 (1960); Quintet, 2 trpt., tr., trb., tb., op. 83 (1963); Sonatine, pno., ob., op. 93 (1966); Ondata, 6 perc. (1973); Triade, trpt., org., op. 123 (1975)
Suite (1930); Capriccio (1932); Rumaensk Suite, op. 12 ('Suite romanesa', 1937); Dansk Suite, op. 12/2 ('Suite danesa', 1937); Sonatina briosa, op. 27a (1941); Moto austero, op. 88 (1965); I venti, op. 99 (1968)
3 Lyrics, 1 v., pno., op. 7a ('3 peces líriques', 1936); Fanden og borgmesteren, òpera, op. 23 ('El dimoni i l’alcalde', 1940); Quatre cançons, cor, op. 34 (1943); Rosette, S., A., T., pno., op. 41 (1946); Liber Canticorum I, cor, op. 54 (1951-52); Moya, 7 cançons, MS., pno., op. 57 (1952); Liber Canticorum II, cor, op. 59 (1952); Liber Canticorum III, cor, op. 60 (1953); Liber Canticorum IV, cor, op. 61 (1953); Kniven, òpera de cambra ('El ganivet', 1959-60); Requiem for Nietzsche, op. 84, v. solistes, cor, orq. (1963-64); 3 Eskimo songs, MS., campanes, cl., op. 91 ('3 cançons esquimals', 1966); Zeit, A., qt. c., op. 94 ('Temps', 1966-67); Liber Canticorum V, cor, op. 96a (1967); 3 jaeger-sange, cor, op. 98 ('3 cançons de caça', 1966-68); The Wee Wee Man, T., orq. cambra, op. 107b (1971); The Wee Man, 4 v., op. 110b (1972)