Cursà estudis de piano des que tenia sis anys. Fou un músic local a Mont-real fins que l’empresari Norman Granz l’incorporà al programa dels concerts de Jazz at the Philharmonic de Nova York el 1949. Peterson ja es mostrà llavors com un virtuós amb un estil que es caracteritzava per un swing potent i una extraordinària riquesa de recursos, i que reunia elements dels estils d’altres pianistes, sobretot de Nat King Cole i d’Art Tatum, amb el qual compartia el virtuosisme. Durant els anys cinquanta formà el seu propi trio amb una guitarra i un contrabaix, amb el qual enregistrà At The Concertgebouw (1957). A partir del 1959 substituí la guitarra per una bateria i, amb aquest grup, enregistrà Night Train (1962) i els sis volums d’Exclusively For My Friends (1963-68). Assolí fama mundial i un gran èxit comercial actuant i enregistrant amb primeres figures del jazz, com Milt Jackson —Very Tall (1961)— i Clark Terry —Plus One (1964)—. Els anys setanta i vuitanta fou un dels músics de jazz més actius, tot actuant a les millors sales i festivals del món, mentre feia una gran quantitat d’enregistraments. La dècada de 1990 hagué d’alentir l’activitat a causa de l’artritis i d’una embòlia cerebral que patí el 1993. Malgrat tot, continuà tocant i enregistrà The More I See You (1995) i A Summer Night In Munich (1998). Al llarg de la seva carrera guanyà set premis Grammy, entre d’altres pels àlbums The Trio (1974), Oscar Peterson Jam (1978) i Saturday Night at the Blue Note (1990).