Els òrgans rectors són l’Assemblea General i la Junta de Govern i és presidit pel degà elegit democràticament. Territorialment consta de sis demarcacions amb competències pròpies (Barcelona, on hi ha també la seu central, Comarques Centrals, Girona, Lleida, Tarragona i Ebre i delegacions (Alt Empordà, Barcelona, Ebre, Garrotxa-Ripollès, Girona, Osona, Pirineu, Manresa, Tarragona i Vallès). Forma part del Consejo Superior de los Colegios de Arquitectos de España i, a través d’aquest, del Conseil d’Architectes d’Europa i de la Union Internationale d’Architectes.
Té el precedent en l’Escola d’Arquitectes de Catalunya (1845), origen, al seu torn de l’Associació d’Arquitectes de Catalunya (1874), que el 1919 presentà al govern espanyol un projecte per a un reglament col·legial, alhora que se sol·licitava la col·legiació obligatòria. El 1931, juntament amb cinc altres col·legis de l’estat, fou constituït el col·legi oficial d’arquitectes de Catalunya amb Ricard Giralt i Casadesús com a primer degà electiu que també comprenia, en principi, les Balears, Aragó i la província de Logronyo; des del 1933 la seva àrea restà reduïda a Catalunya i les Balears.
Fins el 1935 publicà el Butlletí del Col·legi d’Arquitectes de Catalunya i Balears. Substituït durant la Guerra Civil pel Sindicat d’Arquitectes de Catalunya, la segona època s’inicià el 1939, amb la presidència de Francesc Guàrdia i Vial; el 1944 inicià la publicació de Cuadernos de Arquitectura (nom catalanitzat el 1980 per Quaderns d’Arquitectura i Urbanisme), publicació que ha tingut i té una important projecció entre els professionals; el 1949 organitzà un concurs de projectes per a resoldre el problema de l’habitatge econòmic a Barcelona. A causa de l’augment progressiu de les seves disponibilitats econòmiques, la junta presidida per Antoni de Moragas creà la Comissió de Cultura (1964), que impulsà manifestacions culturals: exposicions (Dalmau, Miró, ADLAN, GATCPAC, homenatges a arquitectes, etc.), i creà les oficines de càlcul d’instal·lacions (OCI), càlcul d’estructures (OCE) i d’informació urbanística (OIU), entre altres iniciatives. El 1962 la institució inaugurà una nova central, prop de la catedral de Barcelona, a partir d’un projecte de Xavier Busquets. L’element distintiu de l’edifici són els grans murals esgrafiats de Picasso a les façanes frontals i laterals.
El 1969 hom creà l’Arxiu Històric, inicialment concebut per a preservar els fons provinents de l’Associació d’Arquitectes, que ha anat augmentant els seus fons amb successives donacions de particulars i institucions, entre les quals les de Nicolau Maria Rubió i Tudurí (1970), el GATCPAC (1971), Cèsar Martinell (1974), Josep Maria Sostres i Maluquer (1984), Antoni de Moragas (1997), Antoni Maria Gallissà (1999), Lluís Domènech i Montaner (2000) i el fons del fotògraf Francesc Català-Roca (2008). A banda, la seva biblioteca especialitzada conté més de 35.000 volums. El 1978 les Balears se segregaren del COAC per a formar Col·legi propi. Els anys 1984-2002 el Col·legi es reorganitzà amb la creació de les sis demarcacions actuals. A més d’altres serveis (borsa de treball, consultores tècnica i jurídica, servei d’aplicacions informàtiques) el Col·legi ha creat l’Escola de Pràctica Professional Josep Lluís Sert (1994) per a la formació continuada, un Departament de Relacions Internacionals (1997) per a donar a conèixer l’arquitectura catalana al món i, recíprocament, donar a conèixer a Catalunya les noves tendències arquitectòniques a escala mundial i el Servei Educatiu Arquitectura (2003), per a la difusió de l’arquitectura. L’any 1996 el COAC fou seu del XIX Congrés de la Unió Internacional d’Arquitectes (UIA).
L’any 2019 rebé el Premi Nacional de Cultura del CoNCA i el 2021 fou guardonat amb la Creu de Sant Jordi.