Estudià a Budapest i al Conservatori de Leipzig, ciutat on el 1929 presentà el seu Concert per a violí núm. 1. Visqué a París des del 1931 i a Londres a partir del 1935. Ja en aquests anys les seves obres eren interpretades a Europa i Amèrica. El 1940 es traslladà als Estats Units i, instal·lat a Hollywood fou contractat per la Metro-Goldwyn-Mayer, on treballà per molt temps. Dedicat a la composició de música per al cinema fou premiat amb l’Oscar en tres ocasions, per Spellbound (1945), A Double Life (1947) i Ben-Hur (1959). Demostrà el seu classicisme simfònic en films com Quo Vadis (1951), Julius Caesar (1953), King of Kings (1961), El Cid (1961), Providence (1976, César de l’Acadèmia Francesa), Time After Time (1979), i d’altres. Entre el 1945 i el 1965 fou membre docent de la University of Southern California, i des d’aleshores repartí la seva activitat entre Amèrica i Europa. Interessat en la síntesi de la música folklòrica i la simfònica, Rózsa excel·lí pel seu caràcter líric i expressiu. Una obra decisiva en el seu catàleg, Tema, Variacions i Finale (1933), marcà l’inici de la seva plenitud, amb obres com el Concert per a corda (1943), el Concert per a violí (1956) i el Concert per a piano (1966).