A onze anys s’incorporà a la banda de l’escola, on tocà el bombardí. Dos anys més tard s’inicià en el saxo contralt i el 1935 començà a tocar professionalment en diversos grups de Kansas City. El 1939, en una primera estada a Nova York, feu nombroses jam-sessions i aviat cridà l’atenció dels seus col·legues per la seva particular manera d’improvisar. De nou a Kansas, s’incorporà a l’orquestra de Jay McShann, amb la qual realitzà els primers enregistraments. El 1942 aquesta formació treballà a Nova York i Parker ho aprofità per quedar-se a la ciutat, deixà Jay McShann i s’uní, primer, a l’orquestra d’Earl Hines i, després, a la de Billy Eckstine. Només algunes gravacions no oficials documenten aquest període, entre les quals destaca Cherokee (1942). A partir del 1944, començà a gravar amb grups petits. Al novembre del 1945, en la seva primera sessió com a líder d’un grup format per ell mateix, realitzà una improvisació virtuosa sobre el tema Ko-Ko, una variant de Cherokee, que esdevingué un punt de referència. El 1946 tocà i enregistrà a Califòrnia, però a causa de la seva addicció a l’heroïna hagué de ser internat durant sis mesos en un hospital californià. Un cop recuperat i novament a Nova York, començà el que fou el seu període més productiu. Formà un quintet, amb el qual tocà i feu diversos enregistraments, entre els quals destaquen Embraceable You (1947), Constellation i Parker’s Mood (1948). En algunes gravacions, com en Little Willie Leaps (1947), emprà el saxo tenor. També són notables les gires i els enregistraments que feu acompanyat d’una secció de corda, com mostra Just Friends (1949). Els anys cinquanta no mantingué cap grup estable i col·laborà amb moltes formacions. Continuà actuant fins al principi del 1955, si bé d’una manera cada cop més puntual, a causa del seu precari estat de salut. Fou l’improvisador més destacat de la seva època i una de les principals figures del jazz. Tingué un paper clau en el desenvolupament del be-bop. Després d’estudiar a fons els músics de la generació anterior, transcendí aquesta influència i desenvolupà un vocabulari únic i característic. El seu discurs musical gaudia de la fonda expressivitat del blues, i la seva manera d’interpretar el converteixen en un dels grans artistes a l’hora de transmetre els valors emocionals i espirituals propis de la música afroamericana.