Mentre estudiava dret començà a actuar en obres de grups universitaris. El 1977 debutà professionalment en l’obra No hablaré en classe, de la companyia Dagoll Dagom, amb la qual també col·laborà en Antaviana (1978).
Després de participar en Operació Ubú (1981) d'Els Joglars, protagonitzà en solitari els espectacles Pay-Pay (1983), Ño (1984), Sin Palabras (1987), En resumidas cuentas (1988), ¡Por el amor de Dios! (1991), Ssscum! (1992), Rubianes: 15 años (1996), Rubianes, solamente (1997 que estigué sis temporades a la cartellera de Barcelona i pel qual el 1999 li fou atorgat el premi Sebastià Gasch) i La sonrisa etíope (2007), monòlegs còmics que li donaren una gran popularitat.
A banda, fou autor i director de Lorca eran todos (2006), recreació de la vida i l’obra del poeta granadí com a símbol de l’Espanya Republicana. Actuà també en cinema (El perquè de tot plegat, 1994, de Ventura Pons; El crimen del cine Oriente, 1997, de P. Costa, etc.), i en produccions televisives, especialment en la serie Makinavaja (1995), dirigida per José Luis Cuerda i que protagonitzà, a més de papers secundaris en altres sèries.
El 2006 unes declaracions seves en un programa de televisió donaren lloc a una polèmica amb sectors de la dreta espanyola. Rebé, entre d’altres, el Premi Especial de la Crítica (1998) per la seva trajectòria professional, el premi Sant Miquel de la Fira del Teatre al Carrer de Tàrrega (1999), el premi Ciutat de Barcelona (2002) i el Premi Internacional d’Humor Gat Perich (2006). Autor del volum autobiogràfic i d’impressions personals Me Voy (2007), fou objecte de diversos llibres d’entrevistes i reportatges. L’any 2010 es publicà, a títol pòstum, el poemari Poemas africanos que, com la Fundació Pepe Rubianes, creada al novembre de 2011 amb la finalitat d’ajudar la comunitat massai, testimoniaven l’estreta vinculació de Rubianes amb aquest continent. A finals d’aquest any s’estrenà el documental Pepe & Rubianes, de Manuel Huerga.