Es graduà el 1933 a l’Escola de Música de Tòquio, on estudià violoncel. Encara romangué tres anys més en aquest centre per cursar-hi composició i direcció. L’any 1948, juntament amb altres músics, fundà l’Ensemble Chijin Kai, amb el qual es dedicà intensament a la música de cambra, gènere al qual Abe dedicà més atenció dins la seva carrera compositiva, marcada bàsicament per la tradició clàssica. Fou, a més, professor al Col·legi Municipal d’Arts de Kyoto i president, entre el 1960 i el 1963, de la Societat Japonesa per la Música Contemporània.