Es graduà el 1968 al Swarthmore College, i el 1974 es doctorà a la Universitat de Berkeley. Aquest mateix any dirigí el projecte de la sonda espacial Cosmic Background Explorer (COBE) de la NASA, i dos anys després passà a dirigir el projecte per a la construcció de l’espectròmetre FIRAS (Far Infrared Absolute Spectrophotometer), el qual, incorporat al COBE, fou posat en òrbita el 1989. L’anàlisi posterior de la informació subministrada pel satèl·lit relativa a la radiació de fons de les microones còsmiques, efectuada per l’equip de Mather, confirmà la teoria del big-bang i proporcionà informació de gran valor per a explicar l’origen de les galàxies i de l’Univers en general. Aquestes descobertes valgueren a Mather la concessió del premi Nobel de física el 2006, que compartí amb el seu col·laborador George C. Smoot.