Succeí el seu pare Enric III sota la regència de la seva mare, Agnès de Poitiers, i dels bisbes Annon de Colònia i Adalbert de Bremen, la qual cosa facilità a la Santa Seu l’oportunitat d’organitzar el col·legi cardenalici que s’havia d’encarregar de les eleccions pontifícies. Ja major d’edat (1066), es trobà amb la independència de fet dels ducats de Baviera i Saxònia, però aconseguí de sotmetre Polònia a vassallatge i dominà els saxons (1075). Durant tot el seu regnat s’enfrontà amb la política del papa Gregori VII, el qual condemnà la simonia (1075), i es plantejà el problema de les Investidures (lluita de les Investidures). Reuní el concili de Worms (1076), en el qual destituí el papa, però aquest l’excomunicà i deslligà els seus súbdits del deure d’obediència. Aquestes tensions foren aprofitades per l’antirei Rodolf de Suàbia per a rebel·lar-se. Davant la delicada situació, els prínceps i bisbes alemanys (assemblea de Tibur, 1076) concediren al rei un any per a reconciliar-se amb el papa; Enric IV acudí al castell de Canossa (1077) i obtingué el perdó papal. En tornar a Alemanya, castigà l’antirei usurpador i sotmeté els ducs de Baviera i Caríntia (1078-80), actitud que li valgué novament l’excomunió (1080); com a reacció nomenà un antipapa, Climent III, amb qui es dirigí a Roma i es féu proclamar emperador (1084). En morir Gregori VII (1085), els papes Víctor III i Urbà II continuaren la línia d’aquell i enfrontaren els fills de l’emperador amb el seu pare, el qual fou obligat a abdicar (1105) pel futur Enric V.