Fou fundat el 14 de novembre de 1920, amb el nom de Balears Foot-Ball Club, per la unió del Mecànic FC —format per treballadors de la companyia naviliera Isleña Marítima i estudiants per a maquinistes naviliers— i el Mallorca FC —format per treballadors de la Foneria Carbonell, popularment coneguda com Can Salí—, ambdós fundats també el 1920. El 27 de maig de 1942 canvià el nom per l’actual, Club Esportiu Atlètic Balears, arran de la incorporació d’un altre equip de la ciutat fundat el 1922, l’Athletic Foot-Ball Club. El 2011 es convertí en societat anònima esportiva.
L’equip ha jugat quatre temporades a segona divisió, tretze a segona B, 53 a tercera divisió, 5 a regional preferent i una temporada a primera regional. L’any 2016 es proclamà campió de la Copa Federació. Des de la fundació, el seu màxim rival és el RCD Mallorca. El seu terreny de joc ha estat, entre el 1960 i el 2013, l’Estadi Balear, d’Hostalets, i posteriorment ha jugat als estadis de Magaluf, Calvià (2013-14) i de Son Malferit, des del 2014.