Nascut en una família amb tradició musical, començà a estudiar piano als set anys i, durant els seus anys d’estudiant es dedicà al jazz. El 1960, anà a Nova York per tocar amb el trompetista Donald Byrd i amb Coleman Hawkins. El 1962 enregistrà el seu primer disc Takin’ Off, que incloïa Watermelon Man, peça que obtingué un gran èxit comercial.
L’any 1963 ingressà al quintet de Miles Davis, amb qui tocà durant cinc anys, en el qual desenvolupà el seu estil molt personal, que combinava blues i be-bop amb una harmonia colorista i un so exquisit. Amb els seus companys de secció rítmica, revolucionà els conceptes d’acompanyament i la interacció amb els solistes. Durant els cinc anys que passà amb Davis, compongué diversos temes que esdevindrien clàssics del repertori jazzístic, com ara Dolphin Dance i Cantaloupe Island.
Del 1971 al 1973 liderà un sextet que combinava elements del jazz, el rock i la música africana i índia amb instruments electrònics. Després de l’èxit de l’experiència de barrejar sons acústics i electrònics, començà a usar instruments elèctrics i electrònics més extensivament. A partir de l’àlbum Headhunters (1973), la seva gran habilitat per incorporar les més complexes innovacions en tecnologia electrònica a l’hora de compondre el portà a conrear una música més comercial que li permeté gaudir d’un èxit considerable. Malgrat això, retornà ocasionalment a l’escena jazzística, especialment amb el seu grup VSOP i amb els duos de piano amb Chick Corea.
A partir de la dècada del 1990, amb la irrupció de la música electrònica com a referent contemporani, es convertí en un dels músics més innovadors i capaços de superar fronteres musicals. El 1996 fundà la Rhythm of Life Foundation, una organització que pretén apropar les noves tecnologies als sectors socials que no hi tenen accés per millorar-ne la qualitat de vida. El 2001, en col·laboració amb Bill Laswell, publicà Future2future, un projecte en el qual els dos músics s’apropaven als nous creadors adscrits al tecno i el hip-hop.
Combinà una inquietud constant en termes creatius amb projectes menys arriscats: el 1998 guanyà tres premis Grammy amb Gershwin’s World, considerat un dels grans treballs de la seva discografia. El 2005 publicà Possibilities. Compongué la banda sonora de Round Midnight (1986), premiada amb un Oscar, pel·lícula en la qual a més, participà com a actor.
Continuà editant àlbums molt complets, com ara Gershwin’s World (1998) i Jammin’ With Herbie Hancock (2000). Posteriorment, ha publicat els discs River: The Joni Letters (2007, premi Grammy al millor disc) i The Imagine Project (2010). És autor dels llibres Herbie Hancock: Possibilities (2014) i Reaching Beyond: Improvisations on Jazz, Buddhism, and a Joyful Life (2017).
Guardonat amb diversos premis Grammy al llarg de la seva carrera, l’any 2025 li fou concedir el premi Polar de Música.