Començà al Futbol Club Internacional de Sants, i el 1918 passà a formar part del Futbol Club Barcelona amb Jack Greenwell d’entrenador, on esdevingué figura mítica —"el rei del futbol"— i, amb Ricard Zamora, el més famós dels futbolistes catalans. De seguida es convertí en una peça bàsica de l’equip com a mig ala dret. A partir de la temporada 1923-24 passà a jugar de davanter centre, i fou considerat el millor d’Europa. Fou el líder de l’Edat d’Or del club blaugrana, marcà tota una època i és considerat un dels futbolistes més emblemàtics de la història del Barça. El seu joc alt, amb salts inversemblants, li valgué el renom d’Home Llagosta i també el Mag. Disputà 454 partits i marcà 333 gols. És el tercer màxim golejador de la història del FC Barcelona, només superat per Alcántara i Messi. Guanyà la primera edició de la Lliga (1928-29) i cinc Copes (1920, 1922, 1925, 1926, 1928). És el futbolista que guanyà més vegades el Campionat de Catalunya, amb 12 títols (1919-22, 1924-28, 1930-32). Obtingué, així mateix, una Copa de Campions (1928). En acabar la temporada 1931-32 el Barça decidí no renovar-li el contracte i fitxà pel Real Madrid, amb el qual jugà dues temporades i guanyà una Lliga (1933) i una Copa (1934). Després es retirà i al principi del 1936 entrenà l’Atlético de Madrid. En esclatar la Guerra Civil s’exilià a França i despenjà les botes per jugar en el Niça (1936-39), el seu darrer equip.
Amb la selecció estatal, s’hi alineà en el primer partit de la seva història, en els Jocs Olímpics d’Anvers (1920), on obtingué la medalla d’argent. Junt amb Zamora i Sancho foren els primers futbolistes catalans a participar en uns Jocs. Fou 21 vegades internacional (fins el 1931) i marcà 2 gols. Jugà nombroses vegades amb la selecció catalana entre el 1920 i el 1936. Guanyà tres vegades la Copa Príncep d’Astúries (1922, 1924, 1926). El 19 de gener de 1936, ja retirat, la Federació Catalana li va retre un homenatge. Acabada la guerra dirigí el Niça (1942) i després el Barça (1944-47). En aquesta etapa l’equip blaugrana guanyà una Lliga (1945) i una Copa d’Or Argentina (1945). A continuació fou nomenat secretari tècnic del club. El 1959 el president del Real Madrid el fitxà com a secretari tècnic. L’any 1962 retornà al Barça per desenvolupar funcions d’assessor fins a la seva mort. El 1990 es creà en honor seu el Fòrum Samitier, el mitjà de debat del barcelonisme. El 1993 es batejà amb el nom de Josep Samitier un carrer de la rodalia del Camp Nou.