Fill d’un terratinent, quan morí el seu pare (1883) n'heretà l’administració dels béns i les terres. L’any 1886 conegué Cipriano Castro, als partidaris del qual s’uní l’any 1892 en esclatar la Revolución Legalista, que enfrontava els reformistes de Raimundo Andueza, partidaris d’un règim presidencialista, i els constitucionalistes del president Joaquín Crespo. Arran de la derrota dels reformistes, visqué exiliat a Colòmbia fins el 1899. Aquest any, Castro reprengué l’ofensiva contra el Govern, aleshores molt afeblit, i Gómez encapçalà com a general les tropes insurgents. Establert el nou règim, després de la proclamació d’una nova constitució (1902), Castro esdevingué president i Gómez vicepresident. Poc després, el nou Govern hagué d’enfrontar-se a l’anomenada Revolución Libertadora, rebel·lió en la qual s’aliaren diversos cabdills regionals, amb el suport del banquer Manuel Antonio Matos i algunes multinacionals nord-americanes. El protagonisme de Gómez en la derrota de la insurrecció (1903) l’enfrontà amb Castro durant uns quants anys, i el 1908, arran de la marxa d’aquest a Europa per motius de salut, prengué el poder en un cop d’estat. Corejat d’una façana d’institucions representatives, es convertí en dictador de fet fins a la mort: a l’abril del 1910 es féu elegir comandant en cap de l’exèrcit i president del país. Inicialment per a un període provisional de quatre anys, l’any 1913 suspengué les eleccions amb el pretext d’una emergència militar. L’any següent un Congrés Nacional de Plenipotenciaris el confirmà en els càrrecs i, després d’aprovar una nova constitució, el designà cap de l’exèrcit i, el 1915, president constitucional fins el 1921. Aquest any promogué una nova reforma constitucional que refermà les seves atribucions. Reforçà i mantingué sempre una estreta vinculació amb l’exèrcit, del qual se serví per a mantenir-se en el poder al preu d’una implacable repressió de l’oposició i dels cabdills regionals, explotà el naixent potencial petrolier de Veneçuela amb concessions a multinacionals nord-americanes, promogué nombroses obres públiques i acumulà una enorme riquesa personal.