Fill bastard de Pipí d’Héristal, assumí el poder a la mort d’aquest (714), desbancant els seus nets legítims Teodebald, Arnulf i Hug. Derrotà els neustrians a les Ardenes (716) i al Cambrésis (717), i vencé Eudes, duc d’Aquitània, que els auxiliava, a Soissons (719). Els anys 722-24 emprengué campanyes contra els saxons de Hessen i de Turíngia i suprimí el ducat d’Alamània (730). Poc després (732), ‘Abd al-Raḥmān ibn ‘Abd Allāh al-Gafiqī, emir d’Al-Andalus, dirigí una expedició musulmana que, després de derrotar Eudes, d’ocupar Bordeus i d’atacar Poitiers, que resistí, es disposava a avançar cap a Tours. Carles el derrotà prop de Poitiers (732). Aquesta derrota assenyalà el límit septentrional de la penetració islàmica, i la victòria valgué a Carles el sobrenom de Martell. Entrà a Avinyó (737) i provà d’alliberar la Septimània, però no reeixí a prendre Narbona i hagué de limitar-se a destruir les fortificacions d’Agde, Besiers i Magalona. El 739 deturà, amb l’ajut de Liutprand, rei dels longobards, un nou intent musulmà de penetrar a Provença. Carles impulsà la predicació de Bonifaci i Willibrord entre les tribus germàniques, però sotmeté l’Església franca a la seva autoritat conferint càrrecs eclesiàstics i cedint-ne les propietats als guerrers. El 737, en morir el rei merovingi Teodoric IV, es considerà prou fort per a prescindir de la decaiguda dinastia i governà amb el títol de princeps o subregulus. Poc temps abans de morir repartí el regne entre els seus fills en qualitat de sobirà: Carloman rebé Austràsia, Alamània i Turíngia, amb la sobirania de Baviera, i Pipí, el més jove, Nèustria, Borgonya i Provença, amb la sobirania d’Aquitània. Fou enterrat a Saint-Denis.