Svou hudební kariéru započal v 70. letech, kdy vydal alba Tea for the Tillerman a Teaser and the Firecat, která byla ve Spojených státech oceněna třemi platinovými deskami. Jeho další deska pojmenovaná Catch Bull at Four dosáhla v prvních dvou týdnech po svém vydání prodeje 0,5 milionu kopií a podle redakce časopisu Billboard se stala nejlépe prodávaným LP během tří po sobě jdoucích týdnech.
V roce 1979 prodal v charitativní aukci všechny své kytary a zanechal hudební kariéry, neboť se chtěl věnovat vzdělávání a dobročinnosti v muslimské komunitě. Za své filantropické počínání a podporu světového míru obdržel několik cen - World Award (2003), Man for Peace Award (2004) a Mediterranean Prize for Peace (2007).
Do světa popové hudby se vrátil v roce 2006, kdy po dlouhých 28 letech vydal album An Other Cup. V roce 2009 pak vydal desku nazvanou Roadsinger.
