Fill d’un comptable musulmà, aprengué de manera autodidàctica el dibuix cal·ligràfic geomètric tradicional (kulfic khat).
L’any 1937 anà a Bombai, on sobrevisqué precàriament com a grafista de cartells de Bollywood i el 1947 s’uní al Grup d’Artistes Progressius liderats per Francis Newton Souza, oposats al classicisme hindú de l’escola de Bengala que promovia l’administració britànica. Sense renegar de la tradició autòctona, aquest grup incorporava les noves tendències d’Occident (surrealisme, cubisme, expressionisme). Des de mitjan anys seixanta la seva obra començà a obtenir renom, i juntament amb Tyeb Mehta, esdevingué el pintor indi més valorat del segle XX.
L’any 1996 una sèrie de gravats seus (creats vers el 1975 però no publicats fins aquell any) inspirats en el Ramayana i el Mahabharata, en què es representaven diverses deïtats del panteó hinduista en posicions titllades d’obscenes encengué les ires dels fonamentalistes hindús, irritació encara més acusada per la condició musulmana de l’autor (tot i declarar-se ateu). La pugna degenerà en una sèrie de litigis i d’actes vandàlics contra el seu domicili i les seves obres, fins que l’any 2005 es traslladà a Qatar, on es nacionalitzà. L’any següent un tribunal indi el declarà culpable de ferir els sentiments de la gent.
Obtingué un gran nombre de distincions, entre d’altres el Padma Bhushan (1973) i el Padma Vibhushan (1989), la tercera i segona condecoració civils més importants de l’Índia, respectivament. L’any 1971 fou invitat especial a la Biennal de São Paulo, juntament amb Pablo Picasso. Els museus més importants del món li han dedicat retrospectives.
Fou també molt afeccionat al cinema, i el 1967 el seu curtmetratge Through the Eyesof a Painter rebé l’Os d’Or del Festival de Berlín. Posteriorment dirigí Gaja Gamini (2000) i Meenaxi: A Tale of Three Cities (2004).