Fou successivament comes sacri cubiculi i prefecte del tresor. El 532 contribuí a sufocar una revolta que s’originà a Constantinoble contra Justinià. Enviat a Itàlia (538), comandà una gran expedició contra els gots (551). Derrotà Totila a Taginae (552), i tot seguit, als peus del mont Lactarius, desféu els rengs gots guiats per Teies. Amb la caiguda de Compsa (555) i la derrota dels alamans, posà fi a la dominació goda d’Itàlia. Nomenat patrici, s’encarregà de l’ordenament administratiu d’aquest país i reparà les devastacions de la guerra.
Morí a la vetlla de la invasió dels longobards. Segons una llegenda, aquests foren cridats pel mateix Narsès, delerós de venjar-se del nou emperador Justí, que l’havia destituït en el seu càrrec de govern.