Fill de Josep Tharrats i Vilà, es traslladà a Besiers el 1932, on rebé una formació eminentment literària. El 1935 s’instal·là a Barcelona i cursà estudis a l’Escola Massana. La Guerra Civil de 1936-39 interrompé els seus plans fins el 1942, que recomençà les seves activitats artístiques. Els tempteigs impressionistes inicials esdevingueren progressivament abstractes per influència de Mondrian i Kandinskij. El 1946 les seves obres foren fetes de papers retallats, taques i enganxaments. El 1947, a l’Institut Français de Barcelona, conegué August Puig, Joan Ponç, Modest Cuixart, Antoni Tàpies, Joan Brossa i J.V. Foix, amb alguns dels quals fundà Dau al Set, organitzà exposicions, activitats culturals i edità la revista del mateix nom (1948-56), on figurà com a fundador, i en fou un dels seus principals impulsors sobretot a la darrera etapa. També participà en la fundació del Grup Taüll (1955).
Feu la primera exposició personal el 1949 a les galeries El Jardín de Barcelona, i des d’aleshores en celebrà més de cent arreu del món, i arribà a ésser un dels pintors catalans més coneguts internacionalment. A partir del 1954 exposà regularment a la Sala Gaspar de Barcelona. Les seves primeres mostres a l’estranger foren el 1955 a Estocolm i Nova York. Participà en la V Biennal de São Paulo (1959) i a les edicions del 1960 i el 1964 de la de Venècia en sales especials. Fou fundador de l’Associació d’Artistes Actuals (1966), del Saló de Maig (1957) i del grup O Figura (1961), amb d’altres. El 1975 se celebrà una exposició antològica de les seves obres a la Fontana d’Or de Girona i el 1985 a París.
Fou un dels capdavanters de les avantguardes catalanes de la postguerra. Derivà d’una abstracció lineal i surrealitzant, a l’època de Dau al Set, vers un informalisme de riques textures, lliure grafia i color abundós. En el seu cosmos màgic, de vocació espacial, les formes hi fluctuen lliurement. Emprà una particular versió de les tècniques d’estampació, que anomenà maculatures, les quals li permeteren d’aconseguir fantasioses creacions. La seva obra fou sempre enriquida amb tota mena de materials i manipulacions.
També fou cartellista i il·lustrador de llibres i feu murals, vitralls, mosaics, joies, escenografies d’òpera (Spleen, 1984), etc. Fou autor de nombrosos escrits, entre els quals destaquen les poesies recollides a Abracadabra (1938), les col·laboracions a Revista i llibres com Antoni Tàpies o el Dau Modern de Versalles (1950), Artistas españoles en el ballet (1950), Cent anys de pintura a Cadaqués (1981), Picasso i els artistes catalans en el ballet (1982), Dames de tots colors (1992) o l’antologia Joan Josep Tharrats i la seva època (1999).
Fou impulsor de la revista d’art i poesia Negre+blau (1983). Fou membre de la Reial Acadèmia de Belles Arts de Sant Jordi (1994). L’any 1984 li fou concedida la Creu de Sant Jordi de la Generalitat de Catalunya i el 1994 el Premio Nacional d’arts plàstiques.