Provinent d’una família xiïta, estudià història a la Universitat de Cambridge i durant un temps treballà per a agències de publicitat. En 1969-73 publicà narracions en revistes i s’introduí en el món teatral. El 1975 publicà una primera novel·la Grimus, que passà desapercebuda. La següent, tanmateix, el monumental fresc històric de l’Índia i el Pakistan postcolonials The Children of Midnight (1981) li valgué el Premi Booker i ha estat considerada una de les novel·les més rellevants en llengua anglesa del segle XX. En aquesta obra apareixen les que seran constants de la seva producció posterior: realisme màgic, construcció barroca i bigarrada i recreacions de la història recent i remota en el pla estilístic i, com a preocupacions centrals, la identitat cultural, la religió, el conflicte entre el canvi cultural i la tradició, les seqüel·les postcolonials, la confrontació amb Occident i la llibertat, entre d’altres.
Posteriorment (1983) publicà Shame, situat en el Pakistan dels primers anys de la independència. Decidit partidari dels valors laics, liberals i racionalistes, el 1988 la sàtira The Satanic Verses (1988) fou qualificada de blasfema pel règim islàmic iranià, i el 1989 l'ayatollahKhomeynî llançà una fàtua instant a l’assassinat de Rushdie el qual, a partir d’aleshores, ha hagut de viure protegit. El 1998 li fou aixecada la condemna a mort però el 2005 hom li renovà. El 2007 li fou conferit el títol de sir per part de la reina d’Anglaterra, cosa que suscità les protestes de musulmans d’arreu del món. Ha estat també (2004-06) president del PEN American Center i el 2008 fou nomenat membre de l'American Academy of Arts and Letters.
Novel·les posteriors són The Moor's Last Sigh (1995, premis Whitbred i Aristeion), The Ground beneath her feet (1999), Fury (2001), Shalimar the Clown (2005), The Enchantress of Florence (2008) i Two Years Eight Months and Twenty-Eight Nights (2015), a més del llibre per a infants Luka and the Fire of Life (2010). És també autor del volum de narracions East, West (1994), i dels reculls d’assaigs The Jaguar's Smile (1987), Imaginary Homelands (1992) i Step Across This Line: Collected Non-fiction 1992-2002 (2002). L'any 2012 publicà Joseph Anton. A memoir, on narrava els anys en què hagué de viure protegit i amagat a causa de la fàtua instant al seu assassinat. L'any 2014 rebé el premi Pen Pinter, en reconeixement a l'aportació literària i a la defensa de la llibertat.