Migcampista, començà la seva carrera al Gimnàstic de Manresa. El setembre del 1984 s’incorporà als equips inferiors del Futbol Club Barcelona i el 1990 debutà amb el primer equip. Amb aquest club conquerí diversos títols, entre els quals destaquen sis Lligues (1990-91, 1991-92, 1992-93, 1993-94, 1997-98, 1998-99), dues Copes del Rei (1996-97, 1997-98) i la Copa d’Europa (1991-92). Amb la selecció espanyola aconseguí la medalla d’or als Jocs Olímpics de Barcelona. Fou escollit millor jugador europeu sub-21 (1992).
El 2001 abandonà el FC Barcelona i fitxà pel Brescia Calcio la temporada 2001-02, durant la qual fou penalitzat amb quatre mesos de suspensió per dopatge amb nandrolona, acusació que el 2007 li fou retirada. Després d’una temporada amb l’AS Roma (2002-03), tornà al Brescia el 2003, any que fou contractat per jugar en un equip de Qatar (2003-05). Posteriorment jugà amb l’equip mexicà Dorados de Sinaloa (2006). Durant l’etapa com a jugador, destacà per la tècnica depurada i una gran visió del joc. Dins del primer equip blaugrana aconseguí un gran carisma entre els aficionats.
Entrenador del Barcelona B des del 2007, el maig del 2008 fou designat oficialment entrenador del primer equip del club per a la temporada 2008-09, en substitució de Frank Rijkaard. Guardiola dissenyà aleshores un equip de figures excepcionals al voltant d’un nucli de jugadors formats a La Masia, entre els quals destacà molt especialment Lionel Messi, però també Xavi Hernández, Carles Puyol, Andrés Iniesta, Víctor Valdés i d’altres, conjunt completat per altres internacionals de gran qualitat com ara Seydou Keita, Éric Abidal o Daniel Alves i que aconseguí coordinar per a crear un tot d’extraordinària efectivitat, més enllà de les individualitats.
Al capdavant d’aquest equip inicià el que ha estat considerada sovint una de les trajectòries de més èxit en la història del futbol de tots els temps. Des de l’accés al càrrec d’entrenador, el seu palmarès inclou tres títols de primer nivell en la temporada 2008-09 (Lliga, Copa del Rei i Lliga de Campions), quatre en la 2009-10 (Lliga, Supercopa d’Europa, Supercopa d’Espanya i Mundial de Clubs), tres en la 2010-11 (Lliga, Lliga de Campions i Supercopa d’Espanya), i quatre en la 2011-12 (Copa del Rei, Supercopa d’Espanya, Supercopa d’Europa i Mundial de Clubs). Retirat com a entrenador del FC Barcelona en acabar la temporada 2011-12, el succeí en el càrrec el segon entrenador Francesc Tito Vilanova.
El gener del 2013 arribà a un acord amb el Bayern de Munic per entrenar el primer equip a partir de la temporada 2013-14, equip amb el qual guanyà el Mundial de Clubs (2013), tres títols consecutius de la Bundesliga (2014, 2015, 2016), a més de la Copa de les temporades 2013-14 i 2015-16. El febrer del 2016 signà com a entrenador del club anglès Manchester City, equip amb el qual ha guanyat la Lliga anglesa (2018, 2019, 2021, 2022, 2023), la Copa de la Lliga anglesa (2018, 2019, 2020, 2021), la FA Cup (2019, 2023) i la Copa d’Europa (2023).
La seva trajectòria l’ha fet objecte de reconeixements i guardons tant de l’àmbit esportiu com d’altres per conceptes més generals: el 2010 fou votat Català de l’Any 2009 en una macroenquesta organitzada per El Periódico i Televisió de Catalunya i rebé, també, el premi Atlàntida del Gremi d’Editors de Catalunya del foment a la lectura. La Federació Internacional d’Història i d’Estadística de Futbol (IFFHS) el designà millor entrenador del món del 2009 i del 2011. El gener del 2012 la FIFA li atorgà el títol de millor entrenador del 2011. L’any 2024 fou guardonar amb el premi The Best de la FIFA al millor entrenador de futbol masculí (2023).
El setembre del 2011 el Parlament de Catalunya li atorgà la Medalla d’Or de la institució en reconeixement dels seus mèrits esportius i als valors cívics, i el 2012 rebé el Premi a la Lleialtat Lingüística de l’Associació Llengua Nacional. El juliol del 2015 s’incorporà a l’últim lloc de la candidatura conjunta independentista Junts pel Sí per a les eleccions al Parlament de Catalunya del 27 de setembre.