Generalment, en tota improvisació hi ha elements predeterminats a partir dels quals s’improvisa. La improvisació, doncs, no sol afectar tots els paràmetres musicals alhora. És molt freqüent, per exemple, improvisar una melodia a partir d’una progressió harmònica preestablerta, o bé improvisar ornamentacions sobre una melodia donada.
La improvisació és un element essencial en molts tipus de música, entre els quals mereix un lloc destacat el jazz. Però també en la música culta de tradició europea sempre hi ha estat present, per exemple en l’ornamentació de melodies, en la realització del baix continu o en la cadenza del concert. A partir de la segona meitat del segle XX el compositor ha donat molt més marge a la improvisació de l’intèrpret (música aleatòria, formants, anelles, etc.). Molts grans compositors (com J.S. Bach, G.F. Händel, W.A. Mozart, L. van Beethoven, F. Mendelssohn o F. Liszt) es destacaren també per la seva capacitat improvisatòria en instruments de tecla.
El jazz ha estat, des del seu naixement, una música en gran part improvisada. Quasi tots els estils jazzístics deixen lloc a la improvisació, i aquesta és un dels elements bàsics, si bé no imprescindible -almenys en la mesura en què ho són el tractament del so i el del ritme-, de la interpretació. La improvisació en jazz es desenvolupa sobre el marc que aporta la composició interpretada. Les melodies així creades emanen, i a la vegada tenen el suport, de la seqüència harmònica subjacent de la melodia original. Durant la primera estrofa, l’instrument o instruments que interpreten la melodia original disposen del suport harmònic i rítmic proporcionat pels instruments amb paper d’acompanyant. Aquests continuen fent el mateix paper durant les estrofes següents, mentre aquells improvisen melodies que hi encaixen harmònicament i rítmicament. Tot i que no hi ha dues improvisacions de jazz que evolucionin de la mateixa manera, existeixen certs procediments que poden ser identificats com a comuns. A efectes descriptius i de manera aproximada, es pot considerar que pertanyen a tres categories: la improvisació per paràfrasi, que és la variació, afectant l’altura de les notes i els valors rítmics de part o la totalitat d’un tema, que roman recognoscible; la improvisació per fórmules, que consisteix en la producció de material nou a partir d’una col·lecció d’idees fragmentàries, i la improvisació per motius, o producció de material nou desenvolupant una sola idea fragmentària. Les tres categories d’improvisació descrites no s’exclouen mútuament, i de fet sovint s’empren simultàniament procediments inclosos en dues de les categories o bé en totes tres.