Durant la seva infantesa, que passà a Texarkana (Texas), estudià música amb un professor local, i a setze anys començà a actuar en grups itinerants. Del 1885 al 1895 treballà a Saint Louis com a pianista de saló, dirigint també grups vocals i tocant altres instruments, mentre s’iniciava en la composició. El 1898, des de Sedalia (Missouri), on s’havia instal·lat, publicà les seves primeres peces importants, entre les quals destaca Original Rags. L’any següent edità Maple Leaf Rag, que assolí un èxit artístic i comercial sense precedents. Establert novament a Saint Louis, els anys següents publicà molts dels seus rags més coneguts: The Entertainer, Easy Winners, etc. També compongué l’òpera A Guest of Honor, que no aconseguí publicar i de la qual ell mateix produí una única representació, que no obtingué gaire èxit. Immediatament començà a escriure una segona òpera, Treemonisha. El 1907 s’instal·là a Nova York, on compongué, ensenyà, gravà rotlles de pianola i feu gires del circuit de vodevil. Publicà The School of Ragtime, un llibre d’exercicis i estudis. La ràpida evolució de la música als Estats Units anà relegant Joplin a l’oblit, per la qual cosa tingué dificultats a trobar un productor per a estrenar Treemonisha. Finalment, el 1915, ell mateix, amb escassos recursos, en produí una única representació, sense escenografia, vestuari ni orquestra, que passà desapercebuda. Durant els primers anys del segle XX, Maple Leaf Rag establí un model que fou emulat per la majoria dels compositors de ragtime i alhora, com a peça que requeria una tècnica brillant per a ser interpretada, esdevingué una prova per a avaluar els intèrprets. Els seus motius rítmics, bastits amb un nou concepte de fraseig sincopat, mostren parts fonamentals de la música americana del segle XX. L’estrena de Treemonisha, amb la producció adient, no es dugué a terme fins el 1972. A la mateixa època, la inclusió de The Entertainer en la banda sonora del llargmetratge The Sting (G.R. Hill 1973) generà interès per Joplin i el ragtime.