Mentre completava els estudis secundaris s’incorporà com a oficinista a una empresa del coure, des d’on ascendí a càrrecs dirigents de la Unió Sindical de Zàmbia, organisme estatal que, tanmateix, el 1981 s’enfrontà al govern de Kenneth David Kaunda i convocà una vaga general, per la qual Chiluba i altres dirigents foren processats. El 1990 fou un dels fundadors del Moviment per la Democràcia Multipartidista (MDM), i aconseguí la introducció d’eleccions lliures, celebrades el 1991.
L’MDM derrotà Kaunda per una amplíssima majoria (76%), i Chiluba esdevingué el segon president de Zàmbia des de la independència. El 1996 aconseguí de nou el càrrec i, malgrat que intentà introduir una esmena per a concórrer a un tercer mandat, dimití el 2001 i cedí la candidatura a Levy Patrick Mwanawasa , antic vicepresident.
Durant els seus anys de mandat abandonà la política socialitzant de Kaunda i afavorí la liberalització econòmica. Paral·lelament, el país entrà en una espiral de corrupció. President de la Organització de la Unitat Africana (2001-2002), des del començament del segle XXI fou investigat i processat per apropiació indeguda i malversació de fons públics i el 2003 fou desproveït de la immunitat parlamentària pel Tribunal Suprem. El 2009, un any després de la mort de Mwanawasa, un tribunal absolgué Chiluba de tots els càrrecs.