Estudià música i composició amb D. Lilburn a la Universitat Victoria de Wellington. Després de dedicar-se a la composició i a la docència al seu país, es desplaçà a Londres, on impartí classes a l’Ealing College of Higher Education del 1971 al 1986, any en què passà a residir a Sitges. Director de diversos cors, com a professor convidat ensenyà també en universitats de la Gran Bretanya i dels EUA. Small és autor de diverses publicacions, entre les quals destaquen Music. Society. Education (1977) i Musicking: A Ritual in Social Space (1995). Els seus escrits es caracteritzen per l’interès a reflexionar sobre les pràctiques musicals d’Occident amb una visió crítica i, sovint, des d’una perspectiva etnomusicològica. Dins les seves concepcions teòriques destaca el fet d’entendre la música bàsicament com a procés i no únicament com a producte, la qual cosa el dugué a encunyar el neologisme ’musicar’ (musicking).