De família urbana benestant, estudià a l’Institut Balear, on fou deixeble de Pons i Gallarza i condeixeble, entre d’altres, de Costa i Llobera, Joan Ll. Estelrich i Antoni Maura. El 1869 inicià la carrera de dret a Barcelona, on refermà la seva afecció literària, entrà en contacte amb el moviment de la Renaixença i escriví bona part dels seus primers poemes i narracions, alternativament en castellà i en un català dialectal i insegur. Les seves primeres publicacions poètiques les donà a conèixer des de les pàgines de Revista Balear (1872-74).
Després d’obtenir, a vint-i-quatre anys, el títol d’advocat, s’instal·là definitivament a Mallorca, es casà amb la barcelonina Rosa Pujol i començà a exercir. Durant aquests anys adoptà unes actituds provincianes que coincidiren amb l’ascensió professional —regidor de l’Ajuntament de Palma, 1879; diputat provincial per Manacor, 1883; relator d’audiència, 1886-1926, i diputat a corts pel partit liberal, 1893— i amb la militància activa dins del maurisme mallorquí. Aquest procés personal repercutí en ell ideològicament i literàriament: esdevingué la tipificació de l’intel·lectual de província que concep l’art com a refugi, i, així, acabà organitzant a casa seva una tertúlia que reunia els literats insulars i acollia els artistes i escriptors que visitaven l’illa. D’altra banda, abdicà el vague catalanisme literari i, en conseqüència, la seva poesia fou, fins al tombant del segle, pràcticament tota en castellà. El 1887, any de la mort de la seva primera dona (de la qual tingué els fills Pere, Teresa i Gaietà), publicà a Mallorca el volum Poesías, que reedità el 1892 en una segona edició augmentada. El 1891 es casà en segones núpcies amb Maria de Haro i Rosselló, que morí el 1931. El 1892 publicà Nuevas Poesías, que inclouen la traducció al català del poema Fantasia de Carducci. Seguiren Poemas y armonías (1894) i Meteoros. Poemas, apólogos y cuentos (1901), l’any de la mort de la seva filla Teresa. Predomina en aquesta producció la poesia superficial, a imitació de Campoamor, i, molt diluïda, la influència de Leopardi, Lamartine, Carducci, Hugo, etc.
Alguns dels poemes més reeixits insinuen les possibilitats creadores que es palesaren en ésser superada una crisi personal. Aquesta, que es produí als primers anys del segle XX, es degué bàsicament a la consciència de fracàs com a poeta en castellà —malgrat els elogis dels seus amics Menéndez y Pelayo, Valera, Blanco García, Estelrich, etc.— i a l’èxit inesperat d’uns poemes catalans fets per encàrrec: La serra, homenatge a Costa i Llobera, i La relíquia, petició de Rusiñol per a un àlbum. En aquests poemes, Alcover trencà amb el mimetisme juvenil i glossà, en el primer, una cançó popular, que esdevingué una exaltació de la ruralia, i en el segon, evocà nostàlgicament el mal du siècle, aguditzat pel record de la dona i de la filla, mortes totes dues.
Esperonat per Costa, Alomar, Oliver i d’altres amics, pels èxits aconseguits aviat a Barcelona i, probablement, per les campanyes idiomàtiques de mossèn Alcover, revisà en part la seva ideologia i s’incorporà a la literatura autòctona amb l’acceptació dels pressupòsits del catalanisme polític postulats per la Lliga Regionalista. Participà en els Jocs Florals de Barcelona (1905, any de la mort del seu fill Pere; 1907, i 1909, en què fou proclamat mestre en gai saber); en les conferències que els intel·lectuals mallorquins feren a l’Ateneu Barcelonès (1904), i en el Primer Congrés de la Llengua Catalana (1906) amb la ponència “La llengua catalana és entre nosaltres l’única expressió possible de l’escriptor-artista”. En pocs anys esdevingué una de les primeres figures de la poesia catalana, que l’aparició de Cap al tard (1909), el seu primer llibre en català, confirmà. En aquest llibre recollí diversos tipus de poesies: les cèlebres elegies, veritables peces majors; les cançons de la serra o visions del país; les endreces o poemes dirigits a altres literats, i algunes de juvenils. Estèticament, són una versió eclèctica i personal del Modernisme i amb aquestes obres aconseguí de retornar la poesia catalana a un nivell d’alta perfecció.
Nou anys després publicà Poemes bíblics (1918), que, en conjunt i malgrat encerts indubtables, són d’un to menor. El recurs a la Bíblia, a més d’indicar una de les seves lectures preferides, insinuava l’inici d’una esterilitat poètica provocada pel pes dels anys i, sobretot, per les dissorts familiars. Així, el 1919, en què assolí el premi Fastenrath, Alcover perdé, el mateix dia, a Barcelona i a Mallorca, respectivament, els seus fills Gaietà i Maria. A partir de llavors, les noves incorporacions foren escasses i sovint es reduïren a reelaboracions o traduccions de peces anteriors. Cal destacar els haikais i espurnes —poemes breus— i, en un altre sentit, el mestratge que exercí sobre nombrosos poetes del Principat i els membres de l’anomenada Escola Mallorquina.
Complement de la seva activitat poètica són les conferències recollides a Art i literatura (1904) i a Reacció literària (1910), els discursos dels Jocs Florals, i els articles i retrats literaris. Del primer volum, és especialment significativa la conferència “Humanització de l’art”, una autèntica declaració estètica sobre els vincles entre la creació i l’experiència, en detriment dels postulats de l’art per l’art. En conjunt, en aquests escrits, de prosa àgil i elegant, deixà judicis crítics de gran agudesa —com el que dedicà al Modernisme—, observacions sobre les seves lectures i comentaris als escrits teòrics de Carlyle, Taine, Schopenhauer i Tolstoj. Té particular interès la seva concepció de l’art, no exempta de contradiccions, juntament la finalitat que li atribuïa.
La seva obra, publicada nombroses vegades, fou reunida en les Obres completes (1951), que és l’edició més comprensiva, bé que hi manquen els escrits —potser perduts— de tipus polític, aspecte en què Alcover ha estat negligit. Corresponent de la Real Academia Española (1904), de l’Acadèmia de Bones Lletres de Barcelona (1913) i de l’Institut d’Estudis Catalans (1916), intervingué en l’edició de les obres de Costa i d’Oliver. Algunes de les seves poesies han estat traduïdes a diverses llengües i musicades (La Balanguera, per Amadeu Vives, que el 1996 fou declarada himne oficial de Mallorca).