S’inicià en la disciplina del violí a onze anys, a Tòquio, i posteriorment estudià a la Universitat Nacional de Taiwan amb Dai Ch’uei-lun. El 1954 es traslladà a París, on fou deixeble de Collette de Lioncourt a l’École César Franck, i poc després ingressà a la Sorbona i al Conservatori de París, on estudià amb A. Jolivet i O. Messiaen. El 1959 retornà a Taiwan, i hi introduí les idees de l’avantguarda musical a través d’iniciatives com el Fòrum de Compositors Xinesos o la Societat Xinesa per a la Música Contemporània.
Interessat en la música folklòrica, el 1967 fundà el Centre per a la Recerca de Música Folklòrica Xinesa. Fou professor de diferents centres, i la seva obra destaca per una interessant combinació entre la tradició xinesa i la música occidental d’autors com C. Debussy, B. Bartók, A. Honegger i A. Berg. A partir de la composició de Tsang hua yin (1962), Hsu se centrà en la recerca d’una música immersa en l’espiritualitat oriental, en especial el budisme.