Inicialment dedicat al country, canvià al jazz després d’escoltar Charlie Parker. El 1959 s’uní al grup del saxofonista Ornette Coleman, el principal proponent del free-jazz dels anys seixanta i setanta, que l’influí decisivament, tot i tocar sovint en formacions i intèrprets molt més tradicionals. Fou també molt important la seva participació en el quartet del pianista Keith Jarrett (1967-77) i el 1969 fundà la Liberation Music Orchestra juntament amb la pianista Carla Bley, grup que a més de caracteritzar-se pel vessant musical innovador també ho feu pel compromís polític. Haden destacà també com a pedagog, i al llarg de la seva carrera rebé tres premis Grammy.