Interessat de jove per activitats artístiques diverses, estudià pintura i història a la Universitat de Berkeley, Califòrnia (1953-59), fou percussionista de conjunts de jazz i de rock (un dels quals donà lloc al grup Velvet Underground), i participà activament en l’avantguarda dels anys seixanta a San Francisco i Nova York, especialment en els happenings i en les performances, i creà coreografies per a espectacles de dansa contemporània.
S’inicià en l’escultura amb petites peces de fusta d’inspiració surrealista. Protegit pel marxant alemany Heiner Friedrich, el 1965 feu a Nova York la primera exposició individual i els anys següents prengué part en importants exposicions del moviment minimalista amb obres d’acer inoxidable.
Paral·lelament, desenvolupà projectes a gran escala consistents en la integració d’elements en el paisatge, que el convertiren en un dels pioners del land art. La seva primera obra en aquest gènere fou Mile Long Drawing (1968), consistent en una sèrie de línies de guix paral·leles sobre una àrea del desert de Mojave (Califòrnia), però la que li donà fama fou The Lightning Field (1977), una quadrícula de 400 pals d’acer inoxidable d’uns 6 m d’alçada col·locats en una àrea de 2,5 km2 a Nou Mèxic. Diverses escultures seves estan exposades públicament en ciutats com ara Nova York, Múnic i París.