El 1932 ingressà al seminari d’Eşfahān, i hi començà estudis de teologia que continuà a l’Escola de Teologia de Qom, on fou deixeble de Khomeynî, del qual esdevingué un estret col·laborador. Professor en aquesta escola des dels anys cinquanta, esdevingué un destacat jurista islàmic i fou nomenat Gran Aiatol·là, la més alta dignitat del clergat xiïta. Fou un dels líders del moviment islàmic contra la monarquia del xa i substituí Khomeynî durant l’exili d’aquest (1964-79). Empresonat de 1974 a 1978, després de la revolució islàmica que enderrocà el xa fou un dels artífexs de la nova constitució que instaurava un règim teocràtic (1979). Tot i això, defensà una certa separació dels poders religiós i polític, tot reservant als juristes islàmics un paper entre supervisor i consultiu. El 1985 fou designat successor de Khomeynî per l’Assemblea d’Experts (organisme que designa el cap religiós suprem de l’estat), però caigué en desgràcia a causa de les seves crítiques a l’onada d’execucions i repressions dels anys 1986-88 i a la fatwà contra l’escriptor Salman Rushdie (1989), posicionaments que li comportaren la suspensió del títol de Gran Aiatol·là i l’anul·lació del nomenatment com a successor de Khomeynî que, en morir aquest, passà a Ali Khamenei. Des d’aleshores, retirat a Qom, criticà el règim islàmic, en particular els abusos de poder del règim comesos amb el pretext de l’ortodòxia religiosa, i defensà també un major pluralisme, el respecte als drets humans i, sense reclamar-ne la igualtat plena, els drets de les dones. A instàncies de Khamenei fou posat sota arrest domiciliari de 1997 a 2003, però posteriorment continuà criticant el règim, en particular el president Ahmadinejad i el seu enfrontament frontal als EUA (tot i acceptar que l’Iran disposés de tecnologia nuclear). El moviment opositor que, a partir de les eleccions del juny de 2009 protestà contra la reelecció d’Ahmadinejad i s’enfrontà al govern el prengué com una referència.