Zgodba zasedbe sta začela v sredini 80. let preteklega stoletja pisati sošolca tolkalec Ahmir “Questlove” Thompson in vokalist oziroma MC Tariq “Black Thought” Trotter, ki sta sprva nastopala na ulicah Filadelfije. Prvi organiziran nastop sta pod imenom Radio Activity izvedla leta 1989 v okviru šolskega natečaja za talente. Sledili sta spremembi imena v Black to the Future in nato v The Square Roots.

Z imenom The Roots na pot do slave
Dvojici sta se nato pridružila še Malik B in basist Leonard "Hub" Hubbard. Leta 1993 so že pod imenom The Roots izdali debitantski album Organix. Zasedba se je že takrat proslavila s svojim džezovskim, eklektičnim pristopom k hiphopu z uporabo živih instrumentov.

Sledil je podpis pogodbe z založbo DGC, pri kateri so izdali tri albume: leta 1994 Do You Want More?!!!??! in leta 1996 Excerpts From The Forthcoming Event in Illadelph Halflife. Malik B je nato leta 1999 zapustil The Roots. Še istega leta so po njegovem odhodu izdali album Things Fall Apart, ki jim je prinesel mednarodno slavo. Za pesem You Got Me s tega albuma so bili nagrajeni z grammyjem za najboljši raperski nastop dvojca ali skupine, plošča pa je bila nominirana za najboljši raperski album.

Sodelovanje z zasedbo tudi po odcepitvi
Leta 1972 v Filadelfiji rojeni Malik Abdul Basit je po odhodu iz zasedbe izdal dva studijska albuma z Mr. Greenom. Street Assault je izšel leta 2005, Unpredictable pa deset let pozneje. V letu 2006 pa je izšla še njegova kratkometražna plošča Psychological. V vmesnih letih je Malik B še sodeloval z The Roots kot gostujoči glasbenik na dveh njihovih studijskih albumih: leta 2006 na Game Theory in dve leti pozneje še na Rising Down.

Novico o smrti Malika B so sporočili The Roots, ki že več let nastopajo kot hišna zasedba v oddaji The Tonight Show Starring Jimmy Fallon. Na Twiterju so zapisali: "Žal vas obveščamo o smrti ljubljenega brata in dolgoletnega člana The Roots Malika Abdul Basita. Naj se ga spominjamo po njegovi predanosti islamu in inovativnosti kot enega najbolj nadarjenih MC-jev vseh časov. Prosimo vas za spoštovanje njegove družine v času žalovanja."