Su primera banda se llamó Glass Menagerie. Después acompañó a diversos músicos de R&B, incluidos B.B. King y Etta James, cuando aún era adolescente. Michael Shrieve se incorporó a la banda de Carlos Santana a la edad de diecinueve años (1968), para actuar en el Festival de Woodstock. Participó en los primeros ocho álbumes del grupo.
En 1976 dejó la banda y se trasladó temporalmente a Londres, donde formó parte del supergrupo Go, con Steve Winwood, Stomu Yamashita y Klaus Schulze, y con los que grabó dos discos. Después, ha desarrollado una larga carrera en el campo de la música experimental y del jazz contemporáneo. Ha colaborado con artistas de diversos géneros, como el rock, el jazz, la música electrónica, y fue uno de los pioneros en la adaptación de la electrónica a la percusión, en los años 1970.
Shrieve ha grabado con músicos como Mick Jagger y The Rolling Stones, George Harrison, Pete Townshend, Roger Hodgson, el guitarrista de The Police, Andy Summers, el compositor de cine Mark Isham, y músicos reconocidos del jazz como John McLaughlin, Freddie Hubbard, Jaco Pastorius, Wayne Horvitz, Bill Frisell, Zakir Hussain, Airto Moreira y Amon Tobin. En los años 80 fue baterista de la banda Novo Combo.
También ha compuesto música para películas y televisión. Ha trabajado con el director Paul Mazursky en la película The Tempest y en Apolo 13, además de componer la banda sonora del filme de Curtis Hanson The bedroom window, así como la música de numerosos shows de televisión. En 2002 Michael compuso y produjo la canción, “Aye aye aye” , que apareció en el álbum Shaman de Carlos Santana (2002). La revista Rolling Stone reconoció que la canción “sobresale del álbum, alegre y orgánico” y consigue “una euforia global”.
Como líder, Shrieve ha grabado tanto con noveles como con renombrados artistas (Skerik, Jack DeJohnette, Zakir Hussain, Reggie Watts), además de con su propia banda, Tangletown.