Sorgida de les organitzacions obreres amb caràcter espontani i unitari durant les vagues dels minaires asturians en 1962-63 (bé que la primera Comissió Obrera datava del 1958 a Gijón), conegué una ràpida difusió al si de la classe obrera sobretot a Biscaia, Madrid i Catalunya . Protagonitzà les vagues de 1965-67, sota l’impuls conjunt de comunistes, socialistes, catòlics, sindicalistes, etc. A partir del 1966, el moviment penetrà, a través de les eleccions sindicals, en les estructures oficials de la CNS verticalista, però fou declarat il·legal (1967) i sofrí, ultra una severa repressió, diverses crisis internes que hi afavoriren el predomini del PCE. Mort Franco, en 1976-77 diversos sectors minoritaris se’n separaren, cosa que donà lloc al Sindicat Unitari i a la CSUT, i CCOO esdevingué un sindicat de tipus més clàssic —Confederació Sindical de Comissions Obreres— d’estructura federal, vinculat al PCE-PSUC. N’han estat dirigents històrics Nicolás Sartorius i Marcelino Camacho, el qual fou secretari general de l’organització entre el 1976 i el 1987, any que fou substituït per Antonio Gutiérrez.
El sindicat s’oposà frontalment a la política econòmica i laboral del govern socialista fins als primers anys noranta, estratègia a la qual s’uní, des del 1988, la UGT malgrat la pugna que mantenia amb aquesta organització sindical per l’hegemonia en el moviment obrer. Ambdues organitzacions protagonitzaren mobilitzacions massives, especialment la vaga general del 14 de desembre de 1988. Posteriorment, CCOO encapçalà els moviments contra la política de reconversió industrial duta a terme a Astúries i el País Basc. Als primers anys noranta la direcció inicià un viratge en la seva estratègia i adoptà postures més conciliadores amb la patronal, motiu pel qual es produïren una sèrie d’enfrontaments interns que culminaren en la destitució de Marcelino Camacho de la presidència del sindicat el 1996. En el 7è Congrés Confederal, celebrat el 1999, Antonio Gutiérrez deixà la secretaria general de la confederació, que passà a ser ocupada per José María Fidalgo Velilla, reelegit el 2004. Al 2008 fou substituït per Ignacio Fernández Toxo, el qual al seu torn fou rellevat el 2017 per Unai Sordo.
Amb una sòlida implantació a Catalunya, on amb la Unió General de Treballadors és l’organització sindical majoritària des del franquisme, el 1964 tingué lloc la reunió clandestina que constituí la primera coordinadora de representants de diferents centres de treball, i el 1966 creà l’organ de direcció, la Comissió Obrera Nacional de Catalunya (CONC), molt vinculada històricament al PSUC. Des del 1973 ha tingut com a secretaris generals Josep Lluís López Bulla i Joan Coscubiela (1996), el qual, al seu torn, fou rellevat per Joan Carles Gallego el 2008 i aquest, el 2017, per Javier Pacheco, reelegit el 2021. L’any 2014 la CONC rebé la Creu de Sant Jordi.