Començà els seus estudis musicals a l’Escola Tècnica de Música de Bakú (1930-35) i posteriorment ingressà al Conservatori de l’Estat de l’Azerbaidjan, on fou deixeble, entre d’altres, d’U. Hajiveyov. En aquest període escriví les primeres composicions i s’inicià en l’estudi del folklore del seu país. L’interès per la música popular el portà, el 1937, a encapçalar una expedició per a compilar cançons i danses d’algunes regions de l’Azerbaidjan. El 1938 es traslladà al Conservatori de Moscou, i tingué D. Šostakovič (1942-46) com a mestre particular. El 1945 escriví la seva primera òpera, Veten (‘La terra del pare’), que li valgué un premi estatal. A més de compositor, fou també un dinamitzador de la vida musical al seu país natal. Fou director artístic de l’Orquestra Filharmònica de Bakú (1941-42), professor del Conservatori de l’Estat a partir del 1959 i president de la Unió de Compositors de l’URSS a partir del 1956. Les seves obres, impregnades del folklore àzeri, es caracteritzen per una orquestració sòlida, una gran energia i un intens sentit del dramatisme. Karajev és considerat una de les grans figures de la música de l’Azerbaidjan del segle XX. En el seu catàleg, a part de l’òpera esmentada, destaquen el ballet Tropoju groma (‘Al sender del tro’, 1957) i els 24 Preludis per a piano (1951-63).