Té els precedents en el procés de Nuremberg (1945) i en la resolució 260 de l’Assemblea General de les Nacions Unides (1948), per la qual fou adoptada la Convenció sobre la Prevenció i la Penalització del Genocidi. Les matances que des del 1993 tingueren lloc arran del desmembrament de Iugoslàvia i a Ruanda donaren lloc a la creació de tribunals especials per a aquests conflictes instituïts pel Consell de Seguretat (1994), precedents del TPI.
La creació del Tribunal fou impulsada per les Nacions Unides després d’un llarg procés de codificació del dret penal internacional. El 1998, l’Assemblea General de l’ONU convocà a Roma una conferència diplomàtica, en la qual representants de 160 estats adoptaren, el 17 de juliol, l’Estatut de Roma, tractat constitutiu del Tribunal Penal Internacional. L’Estatut entrà en vigor l’1 de juliol de 2002, un cop assolides les seixanta ratificacions requerides. Malgrat haver estat creat en el marc d’un procés promogut per les Nacions Unides, el Tribunal no és un òrgan de l’ONU, sinó una organització internacional independent, vinculada a aquesta per un acord de cooperació.
Diferents estats, entre els quals els Estats Units, Rússia, la Xina, l’Índia i Israel, s’han oposat o han mantingut una posició crítica respecte del Tribunal. La jurisdicció temporal del TPI comprèn únicament els crims comesos després de l’entrada en vigor de l’Estatut de Roma, l’1 de juliol de 2002, o, en el cas dels estats que s’hi han incorporat posteriorment, a partir de l’entrada en vigor de l’Estatut per a cadascun d’ells, llevat de determinats supòsits previstos pel mateix Estatut. Els Estats Units, Rússia i Israel signaren l’Estatut però no el ratificaren, mentre que la Xina i l’Índia, entre altres estats, no l’han signat. Palestina esdevingué estat part de l’Estatut de Roma l’1 d’abril de 2015.
Paral·lelament al TPI, els primers anys del segle XXI han seguit funcionant els tribunals especials per a l’antiga Iugoslàvia i Ruanda. El gener del 2009 el TPI inicià el primer procés de la seva història contra Thomas Lubanga, antic cap rebel a la República Democràtica del Congo, acusat del reclutament d’infants com a soldats entre el 2002 i el 2005, i, al març, el fiscal en cap del TPI cursà la primera ordre de detenció contra un cap d’estat, el general sudanès ’Umar al-Bašīr, al qual acusà de crims contra la humanitat al Dārfūr, a la qual el 2010 afegí l’acusació de genocidi. El maig del 2011 cursà la segona ordre de detenció pels mateixos conceptes contra un altre cap d’estat, el president de Líbia Moammar al-Gaddafi, per presumptes crims contra la humanitat comesos durant la repressió de les revoltes antigovernamentals iniciades al febrer.
La concentració inicial de les investigacions del TPI al continent africà provocà fortes crítiques d’alguns governs i de la Unió Africana i dificultats de cooperació amb el Tribunal. Malgrat les ordres de detenció contra al-Bašīr, aquest visità diversos estats part de l’Estatut de Roma sense ser detingut. En el procediment contra el president kenyà Uhuru Kenyatta, acusat el 2009 de crims contra la humanitat relacionats amb la violència posterior a les eleccions del 2007, la fiscalia retirà els càrrecs el desembre del 2014 per fortes pressions, especialment de la Unió Africana, al·legant manca de proves suficients, després de denunciar dificultats per obtenir proves i interferències amb testimonis. El juny del 2018 la Sala d’Apel·lacions del TPI revocà la condemna imposada el 2016 a l’exvicepresident congolès Jean-Pierre Bemba per crims de guerra i crims contra la humanitat i l’absolgué.
Per la seva banda, la Unió Africana establí el 2013, amb independència del TPI, un tribunal especial a Dakar per a jutjar l’exdictador txadià Hissène Habré, el qual fou condemnat a cadena perpètua el maig del 2016. L’octubre d’aquest mateix any tingué lloc un nou episodi de tensió entre el TPI i els estats africans quan, en el decurs d’una investigació sobre presumptes violacions de drets humans a Burundi, el president Pierre Nkurunziza signà un decret pel qual ordenava la sortida del país del TPI. La retirada es feu efectiva el 27 d’octubre de 2017, la primera d’un estat part del TPI des de la seva creació.
El 2012 el Tribunal dictà la primera sentència condemnatòria de la seva història contra el congolès Thomas Lubanga, declarat culpable del reclutament i la utilització d’infants soldats i condemnat a catorze anys de presó. Posteriorment dictà, entre d’altres, sentències condemnatòries contra Germain Katanga, Ahmad al-Faqi al-Mahdi, Bosco Ntaganda i Dominic Ongwen per diversos crims de guerra i crims contra la humanitat.
En el marc de la investigació sobre Palestina, el novembre del 2024 emeté ordres de detenció contra el primer ministre israelià Benjamin Netanyahu i l’exministre de Defensa Yoav Gallant per presumptes crims de guerra i crims contra la humanitat. El març del 2025 l’expresident de les Filipines Rodrigo Duterte fou detingut i lliurat al Tribunal, que l’investigava per presumptes crims contra la humanitat comesos durant la campanya contra el narcotràfic desenvolupada sota la seva presidència.
Ucraïna esdevingué estat part de l’Estatut de Roma l’1 de gener de 2025. Per contra, Hongria, que havia anunciat la retirada el 2025, deixà de ser-ne estat part el juny del 2026. L’actuació del Tribunal en els conflictes d’Ucraïna i Palestina accentuà les tensions amb diversos estats i posà novament de manifest la dependència del TPI de la cooperació dels estats per executar les seves decisions i ordres de detenció.
El TPI actua d’acord amb el principi de complementarietat respecte de les jurisdiccions penals estatals i intervé quan els estats amb jurisdicció sobre els crims no poden o no volen dur a terme genuïnament la investigació o l’enjudiciament. És format per divuit jutges elegits per l’Assemblea dels Estats Parts de l’Estatut de Roma, atenent, entre altres criteris, la representació dels principals sistemes jurídics, una distribució geogràfica equitativa i una representació equilibrada de dones i homes. Exerceixen el càrrec durant nou anys i, amb caràcter general, no poden ser reelegits. El president i els dos vicepresidents són elegits pels mateixos jutges. Es diferencia del Tribunal Internacional de Justícia, amb seu també a la Haia, en el fet que no dirimeix contenciosos entre governs o estats, sinó que jutja conductes i atribueix responsabilitats d’individus.