La seva família —era nebot d’un ferrer— es traslladà a Barcelona per motius econòmics (1888). Aviat s’interessà per l’art: freqüentà el taller d’Eusebi Arnau i l’escola de Llotja, on fou deixeble de Venanci Vallmitjana (1900). Assistí a Els Quatre Gats i participà de l’estètica modernista. Anà, amb una borsa de viatge, a París (1903), on retrobà Picasso, conegué Max Jacob i s’interessà per l’escultura de Rodin. De nou a Barcelona, exposà a can Parés (1904) i acceptà una colla d’encàrrecs d’escultura ornamental al Teatre Principal de Terrassa i, a Barcelona, l’Hospital de Sant Pau, l’interior del Palau de la Música Catalana (1905-08) i la façana del Teatre del Bosc (1907) —de la qual es conserven in situ uns capitells d’una gran força expressiva en els quals retratà els seus amics Picasso, Nonell i Ramon Raventós i, també, s’autoretratà en retornar, malalt, de Madrid, on havia treballat amb Agustí Querol i V. Vallmitjana—. Anà de nou a París (1907), i romangué impressionat per l’obra de Picasso; aquell any 1907, treballant amb Wlérik, efectuà la primera màscara de coure. De retorn, participà en l’associació noucentista de Les Arts i els Artistes (1910). Aquell mateix any 1910 feu la Diablessa blanca, i l’any següent la Màscara de jove. Novament a París (1912-14), feu el famós retrat de Picasso (1913). Exceptuant l’any 1916, que la seva salut tornà a minvar i treballà només en peces petites, en màscares i en joies, es dedicà a l’escultura, que alternava amb diversos encàrrecs d’arquitectes. En abandonar Esteve Monegal la direcció de les classes d’escultura de l’Escola Superior dels Bells Oficis (1917), se’n feu càrrec ell, fins el 1923, que, solidaritzat amb un company que fou destituït per la Dictadura, se n’anà a París, on residí fins el 1934. La seva obra prengué característiques pròpies a partir de la Noia de Casp (1918; Museu d’Art Modern de Barcelona), d’alabastre. Alhora que acusava un ressò classicista d’una gran força plàstica, amb volums ben definits i una forta expressió sensual, superà dubtes i dificultats i utilitzà noves tècniques per a convertir el ferro en escultura tot prosseguint experiències ja iniciades el 1907 i plenament aconseguides amb la Màscara de jove del 1911. Establí relleus essencials modulant plans còncaus i convexos per tal d’establir el buit i d’innovar una forma d’expressió emparentada amb les recerques cubistes i puristes dins un realisme de figures, com ara ballarines, violinistes, arlequins, retrats, etc., plenes d’aire i de llum, que tendeixen cap a l’abstracció: Petit tors de dona (1915; de coure), Maternitat (1922; de bronze), Banyista (1924; de marbre), Les aiguaderes (1925; de bronze), Cap de profeta (1926; de coure), Autoretrat (1927; de ferro), Picador (1928; de ferro), Gran bacant (1931; de ferro), Gran arlequí (1931; de ferro), Antínous (1932; de ferro), Marc Chagall (1932-33; de ferro), David (1934; de ferro), Tors de noia (1934; de marbre) i El profeta (1933; de bronze). Morí durant una esporàdica visita a Reus en ocasió d’exposar la seva obra.
La seva filla Pierrette Gargallo i Tartanson (Barcelona, 23 de juny de 1922
‒ Issy-les-Moulineaux, Illa de França, 29 de març de 2019) exposà estatuetes de terra cuita molt personals i dibuixos acurats i sensibles; residí a París. Es dedicà a ordenar i difondre l’obra del seu pare i impulsà la creació del museu monogràfic dedicat a la seva memòria a Saragossa (1985). Era germà del director i guionista Francesc Gargallo.