El seu pare, pescador i sastre, era amant de la música i tocava la trompeta i el trombó en una banda local. Tubin inicià la seva formació musical a Tartu amb H. Eller i la completà a Tallinn amb A. Kapp. Posteriorment es traslladà a Budapest, on estudià amb Z. Kodály. A partir del 1932 començà a dedicar-se a la direcció orquestral, tasca que compaginà amb la de professor de composició al conservatori de la seva ciutat natal. El seu interès per la música popular estoniana el portà a compondre el primer ballet estonià, El Goblin, amb llibret d’E. Saarik. També escriví Suite sobre tonades estonianes, Suite de danses estonianes i Sinfonietta sobre melodies estonianes. El 1942 es traslladà a Suècia, on continuà component i treballà com a arxiver de la biblioteca del Teatre Drottningholm, plaça que ocupà fins el 1972. El 1982 fou nomenat membre de la Reial Acadèmia Sueca de Música.