Els precedents es troben en la Casa de Sanitat d’aquest barri conegut des del segle XVI, un centre de quarantena que acollia els possibles contaminats d’ultramar. L’afluència cada cop més gran a la ciutat d’aquests col·lectius durant el segle XIX, a conseqüència de la creixent importància del port de Barcelona, que donaren lloc a diverses epidèmies de còlera i febre groga, comportà que l’Ajuntament hi construís un llatzeret (1905). Al novembre del 1914 hom edificà uns pavellons dedicats a combatre una epidèmia de febre tifoidea, considerats l'inici de la institució. En el mateix emplaçament hi fou edificat en el període 1929-30 el primer hospital de l’actual centre, l’Hospital d’Infecciosos, destinat bàsicament a tractar el mateix tipus de malalties amb un equipament modern.
El 1947 hi fou creat l’Institut Municipal d’Investigació Mèdica (IMIM), i en les tres dècades següents va tenir un paper decisiu en el tractament de diverses epidèmies: verola (1940), tifus exantemàtic (1941-42), poliomielitis (1950, arran de la qual es creà un servei de poliomielitis i adquirí el primer pulmó d’acer de Catalunya) i còlera (1971). Als anys seixanta i setanta fou l’hospital de referència per a casos de tètan i gangrena gasosa. Aquests anys hi destacà la tasca, entre altres, de Jordi Gras i Riera i Amadeu Foz i Tena. Fou també el primer a disposar d’una cambra hiperbàrica monoplaça i la primera a habilitar una unitat de cures intensives a l’Estat espanyol. Als anys vuitanta disposava ja de totes les especialitats i fou també pioner en el tractament de toxicomanies, amb la creació de la primera unitat de deshabituació de l'Estat (1981). El 1973, en conveni amb la Universitat Autònoma de Barcelona, fou declarat Centre Sanitari Universitari, conveni renovat posteriorment.
En declarar-se Barcelona seu dels Jocs Olímpics de 1992 (1986), l’hospital fou designat centre sanitari olímpic de referència i les instal·lacions s’ampliaren i modernitzaren. La reforma més en profunditat no s’inicià, però, fins a l’any 2008, amb l’objectiu de duplicar la capacitat de l’hospital, que aquest any era de més de 400 llits, més de vint boxs d’urgència, setanta consultoris i deu quiròfans. Interrompudes les obres en 2010-15, el juny del 2017 foren inaugurades les noves instal·lacions, consistents en un nou edifici de quatre plantes i 15.877 m2, que comprenen sobretot els serveis oncològics. Actualment l’Hospital del Mar és integrat al Parc de Salut Mar de Barcelona, entitat de caràcter assistencial i científica creada l’any 2010. La seva població de referència són els districtes marítims de Barcelona (Ciutat Vella i Sant Martí). El 2015, en ocasió del centenari, rebé la Creu de Sant Jordi.