Després d’estudiar a la Juilliard School entre el 1934 i 1938, es perfeccionà amb Moriz Rosenthal i posteriorment amb Hedwig Kanner Rosenthal. Paral·lelament a la seva formació musical estudià filologia romànica i matemàtiques a la Universitat de Princeton. Després d’una breu estada a París, el 1951 inicià la carrera com a solista de piano, amb gires per diversos països europeus i els Estats Units. El seu repertori abraçava des de J.S. Bach fins a les últimes sonates de L. van Beethoven, però també incloïa obres d’A. Schönberg, A. Webern i P. Boulez, amb el darrer dels quals treballà molt sovint. El 1961 estrenà el Concert per a piano i el Concert per a piano i clave -aquest darrer amb Ralph Kirkpatrick- d’Elliot Carter. És autor de The Classical Style (1971, guardonat amb el National Book Award for Arts and Letters), Arnold Schönberg (1978), Sonata Forms (1980), The romàntic Generation (1980), Beethoven’s Piano Sonatas: A Short Companion (2001), Critical entertainments: Music Old and New (2011) i Piano Notes: The World of the pianist (2002).