Desenvolupà la seva carrera per diverses corts europees. La seva activitat començà el 1471 al servei del duc de Milà, Galeazzo Maria Sforza. El 1474 es traslladà a Florència i als Països Baixos. El 1476 es troba documentat a la catedral de Cambrai com a cantor. Després d’un temps actiu a la capella reial francesa retornà a Florència com a cantor de la seva catedral fins el 1492, i passà algun temps al servei de la cort aragonesa de Nàpols. El 1500 entrà al servei de Felip el Bell, duc de Borgonya i rei de Castella. Com a membre de la seva capella musical viatjà per França i, en dues ocasions, es desplaçà a la Península Ibèrica, el 1502 i el 1506. La seva producció inclou vuit misses, prop de vint motets, diversos himnes, lamentacions i magníficats, unes quaranta cançons profanes franceses i molts arranjaments instrumentals de cançons populars i tenors d’obres d’altres compositors com G. Binchois o J. Ockeghem. El seu estil entronca amb les tradicions de la polifonia contrapuntística dels compositors francoflamencs de la generació d’Ockeghem, amb qui devia coincidir a la capella reial francesa. Tot i que romangué llargs períodes a Itàlia, es deixà influir poc per l’estil italià i la seva atenció al text. Agricola preferí la densitat del contrapunt i els procediments imitatius típics de la tradició de l’escola del nord d’Europa. Part de la seva obra fou impresa a Venècia per Petrucci, que li edità un volum amb trenta-una cançons i motets (1501-03) i un altre amb cinc misses (1503).
8 misses a 4 v., 3 credos a 4 v., 3 magníficats a 4 v., 18 motets (11 a 4 v., 6 a 3 v., 1 a 2 v.), 3 motet-chanson, 47 obres vocals profanes (entre les quals: 7 bergerettes, 11 rondeaux quatrain, 7 rondeaux cinquain)
25 obres: 16 a 3 v. (entre les quals: 5 arranjaments de rondeaux de Hayne von Ghizenghem, 2 arranj. de rondeaux d’Ockeghem), 6 a 4 v. (entre les quals: 2 arranj. de rondeaux d’Ockeghem, 1 arranj. d’un rondeau de Krye), 3 a 2 v.