Heretà de la seva família una impremta que engrandí i transformà en un important negoci de publicació i venda de música impresa. El 1783 creà una biblioteca amb servei de préstec. El 1787 inaugurà una sèrie de concerts per subscripció, els Concerts for Connoisseurs and Amateurs, en els quals s’interpretaren obres de J.S. Bach i Ch.W. Gluck. Per raons polítiques, Rellstab es veié obligat a posar fi a aquests concerts el 1806. Fou també un important crític musical. Compongué música per a l’escena, música religiosa, orquestral i de cambra, així com nombrosos lieder. També portà a terme una intensa activitat pedagògica. El seu fill Ludwig fou un important poeta i crític musical, que publicà durant onze anys el setmanari "Iris im Gebiete der Tonkunst" ("Iris en el món de l’art musical").