Green formou o grupo com o baterista Mick Fleetwood em 1967, em Londres. Embora tenha se afastado da banda em 1971, Fleetwood afirmou em entrevista à Associeted Press que o guitarrista foi muito importante para o sucesso do Fleetwood Mac. Sua contribuição foi tamanha que ele foi incluído no Rock & Roll Hall of Fame no final dos anos 1990.
O músico, porém, teve sua carreira interrompida por problemas com drogas e saúde mental. Nos anos 1970, foi diagnosticado com esquizofrenia, razão pela qual foi internado em algumas ocasiões em diferentes sanatórios durante essa década e, inclusive, foi submetido à terapia de eletrochoque.
Entre os sucessos do Fleetwood Mac compostos por Green estão Black magic woman, Albatross e Oh well.
"Peter, no auge da década de 1960, era sem igual", disse John Mayall em Man of the world, documentário da BBC em 2009 sobre Green. "Ele era uma força a ser reconhecida."
Em 1966, Mayall ajudou a estabelecer Green como um herói da guitarra quando contratou o músico de 20 anos para substituir Eric Clapton em sua formação de blues-rock, o Bluesbreakers.
A carreira solo de Green começou com o álbum solo instrumental de 1970 End of the game. Mas seus problemas psiquiátricos crescentes o levaram à prisão em 1977, depois que ele ameaçou atirar em seu contador.
Ele disse ao biógrafo Martin Celmins em 1996: "Acho que fiz uma viagem grande demais".
Após hospitalização prolongada, ele morou com sua família. Embora tenha voltado a gravar no final dos anos 1970, escreveu pouco de seu próprio material; sua mulher e seu irmão Mike compuseram a maioria das músicas para seus álbuns dos anos 80.