Orfe de pare als onze anys, tingué una infantesa difícil, i als quinze anys (1972) s’afilià al Partit Laborista. El 1981 es graduà en estudis asiàtics a la Universitat Nacional Australiana de Canberra, amb l’especialitat en xinès mandarí. El 1981 ingressà al servei diplomàtic i fou destinat a les ambaixades d’Estocolm i Pequín, en la qual ocupà el càrrec de primer secretari.
El 1988 tornà a Austràlia i treballà com a cap de l’equip del líder laborista de Queensland Wayne Goss, aleshores a l’oposició, i contribuí decisivament al triomf d’aquest en les eleccions en aquest estat (1989), en el govern del qual ocupà càrrecs polítics fins el 1995. Aquests anys, el primer ministre Paul Keating el nomenà president d’una comissió governamental amb l’objectiu de dissenyar un pla d’estudis asiàtics per a les escoles australianes.
El 1996, després d’intentar sense èxit aconseguir un escó al parlament federal, començà a treballar per a empreses comercials amb negocis a la Xina i Taiwan, tasca que desenvolupà fins el 1998. Aquest any fou elegit diputat al parlament, on fou un destacat membre de l’oposició laborista al capdavant de diverses comissions. L’any 2006 fou elegit líder del Partit Laborista d’Austràlia i s’enfrontà al conservador John Howard, al qual derrotà en les eleccions al parlament federal de l’octubre del 2007 i succeí com a primer ministre.
En aquest càrrec aconseguí mantenir Austràlia relativament al marge de les repercussions més greus de la crisi financera mundial. Defensà també els drets dels aborígens i el 2008 feu pública una disculpa a les anomenades “generacions perdudes” (infants australians que havien estat separats de les seves famílies, política que, amb intensitat diversa, havia estat duta a terme des del darrer terç del segle XIX fins a la fi dels anys seixanta del segle XX).
També relaxà les mesures restrictives a la immigració dels governs anteriors i, en política exterior, donà suport a l’aliança amb els Estats Units i a la presència australiana a l’Iraq i, especialment, a l’Afganistan. Tot i signar el Protocol de Kyoto (2007), la decisió de posposar l’aplicació d’un pla per a la reducció d’emissions i la seva proposta de gravar amb impostos extraordinaris els beneficis de les grans empreses mineres provocaren una caiguda en picat de la seva popularitat.
Al juny del 2010 el Partit Laborista votà cessar-lo com a líder i, a conseqüència d’aquesta derrota, dimití com a primer ministre, càrrecs en els quals fou substituït per la fins aleshores vice-primera ministra Julia Gillard. Després de les eleccions anticipades de l’agost del 2010, al setembre Gillard designà Rudd ministre d’Afers Estrangers del nou govern. Tanmateix, les desavinences amb la primera ministra comportaren la seva dimissió al febrer del 2012, decisió que donà lloc a una crisi en el partit davant la qual Gillard convocà un congrés extraordinari el mateix mes, en el qual fou confirmat el seu lideratge i Rudd derrotat. En un nou congrés celebrat al juny del 2013, Rudd fou elegit nou líder laborista, la qual cosa comportà la dimissió de Gillard com a primera ministra, càrrec que passà a ocupar Rudd. Tanmateix, en les eleccions generals del setembre, fou derrotat pels conservadors encapçalats per Tony Abbott.