Seguidor de Mao Zedong, participà en la Llarga Marxa (1934-35) en un recorregut de 10 000 km des del sud de la Xina fins a un santuari del nord-est. Relativament poques persones hi sobrevisqueren, tant per la duresa del camí com pels continus atacs de l’exèrcit de Chiang Kai-shek. Després de la derrota del Japó a la Segona Guerra Mundial, les tropes de Yang s’uniren amb l’exèrcit KMT i derrotaren Chiang Kai-shek, i el 1949 s’establí definitivament la República Popular. Yang esdevingué governador de la província de Guizhou. El 1959 fou nomenat comandant de la regió militar de Pequín. El 1967, durant la revolució cultural, fou destituït dels seus càrrecs juntament amb altres caps militars, però el 1973 se'l considerà apte per a comandar la regió militar de Xinjiang. El 1979 encapçalà una delegació a la Gran Bretanya.