Estudià física al Queens College, enginyeria electrònica a la Universitat de Colúmbia i enginyeria física a la Universitat de Cornell. El 1954 fundà una empresa (R.A. Moog Co.) dedicada a la producció dels instruments anomenats theremins. El 1965 posà a la venda un sintetitzador modular inspirat en el de la companyia RCA Mark II Columbia-Princeton que, si bé encara molt voluminós, es podia fabricar en sèrie. La fabricació de sintetitzadors esdevingué el centre del negoci de R.A. Moog Co., que el 1971 es fusionà amb MuSonics i d’aquesta unió sorgí Moog Music Inc. El 1973 esdevingué una empresa subsidiària de Norlin Industries.
El primer disc en què s’utilitzà el sintetitzador Moog fou el del grup The Zodiacs, i aviat l’empraren formacions com The Monkees, The Beach Boys i The Byrds. Més tard en desenvolupà una versió portàtil, el minimoog, que es comercialitzà a partir del 1971 i que es convertí en imprescindible per als músics de rock progressiu o de jazz fusió, i aviat per a tota mena de músics. Nombrosos compositors col·laboraren també en la creació dels sintetitzadors d’R.A. Moog Co., com ara H.A. Deutsch, W. Carlos, V. Ussachevsky, L. Hiller, G. Ciamaga, J. Cage, D. Tudor, E. Ghent, J. Weiss, etc. Moog també inventà altres aparells, com un sintetitzador de pedal Taurus o el MiniMoog Voyager, que oferien més possibilitats als intèrprets.
El 1970 rebé un premi Grammy per la seva aportació a la música. Arran de la seva mort s’aprovà donar el nom de Moog a la unitat de volts per octava, amb el símbol Mg.