Joan Antoni Samaranch, com a president del Comitè Olímpic Internacional (COI), proposà per primer cop el 1981 la creació d’una jurisdicció específica per a l’esport. El 1982 el kenyà Kéba Mbaye, que era membre del COI, però també del Tribunal Internacional de la Haia, creà un grup de treball perquè redactés els estatuts d’un futur tribunal de l’esport internacional. El 1983 el COI aprovà els estatuts i el juny del 1984 el tribunal ja era operatiu. L’acord de París entre l’associació de federacions olímpiques d’estiu i d’hivern i l’Associació de Comitès Olímpics Nacionals del 1994 fou vital per a crear-ne l’actual.
Des d’aquell acord totes les federacions olímpiques internacionals i la majoria de comitès olímpics nacionals en reconeixen la jurisdicció, que resol en última instància la major part dels casos conflictius de l’esport mundial. En el pla organitzatiu, el principal canvi d’aquesta reforma fou la creació del Consell Internacional d’Arbitratge de l’Esport (ICAS), l’òrgan suprem del TAS, que adoptava les funcions fins aleshores exercides pel COI (administració i finançament) i preservava alhora la independència del TAS i els drets de les parts. El 1996 creà dues oficines descentralitzades permanents, l’una a Sydney (Austràlia) i l’altra a Denver (Estats Units d’Amèrica, des del 1999 a Nova York). El mateix 1996, en ocasió dels Jocs Olímpics d’Atlanta, establí per primer cop una oficina temporal, pràctica que ha seguit posteriorment en les principals competicions internacionals.
El TAS arbitra bàsicament conflictes de dos tipus: contractuals (patrocinadors, drets d’emissió, seus de competicions, transferència de jugadors, relacions entre jugadors o atletes i clubs o agències, responsabilitat civil, etc.) i disciplinaris, la major part dels quals tenen a veure amb el dopatge. El 2005 acceptà el recurs contra les irregularitats en la votació de la Federació Internacional (FIRS) sobre l’admissió de la Federació Catalana de Patinatge, cursada per aquest organisme, i obligà la FIRS a repetir la votació.