Després d’haver estudiat amb A. Schnabel, el 1935 debutà a la seva ciutat natal. El 1952 guanyà el Concurs Reina Elisabet de Bèlgica, i emprengué la seva carrera com a solista en diferents concerts oferts arreu d’Europa i dels EUA. Des del 1960, una malaltia a la mà dreta li impedí prosseguir la carrera de pianista, malgrat que posteriorment tocà obres escrites per a la mà esquerra.
A partir d’aquest fet es dedicà a la docència i a la direcció orquestral. El 1965 dirigí la Fundació Walter Naumburg i, amb Dina Koston, cofundà i codirigí el Theatre Chamber Players de Washington (1968-2003), un conjunt de cambra resident de la Smithsonian Institution i del Kennedy Center. A partir del 1970, es presentà de nou davant del públic amb assiduïtat, especialment amb l’Orquestra de Cambra de Nova York. En 1974-77 dirigí l’Orquestra Simfònica de Baltimore, i després, l’Orquestra Simfònica d’Annapolis. Des del 1985 fou director artístic del Tanglewood Music Center.
A partir de la dècada de 1990 millorà en la malaltia de la mà dreta i pogué tornar a tocar amb les dues mans. El 2003 feu un concert a dues mans al Carnegie Hall, que suposà el seu retorn després de tres dècades. El 2003 s’estrenà Two Hands, de Nathaniel Kahn, un documental que mostra l’esperit de superació de Leon Fleisher i que fou nominat als premis Oscar. El 2010 publicà les seves memòries My Nine Lives, coescrites amb Anne Midgette.