Poté, co dokončila univerzitní studium v Missouri, začala pracovat jako učitelka hudby na základní škole. Později se přestěhovala na předměstí St. Louis, aby byla blíže svému tehdejšímu snoubenci. Ve svém volném čase hrála v několika kapelách, s nimiž o víkendech veřejně vystupovala. V St. Louis se také seznámila s hudebním producentem Jayem Oliverem, který jí začal v její hudební kariéře pomáhat.
V roce 1992 natočila své debutové album, jehož producentem byl Phil Collins. Očekávané datum vydání bylo v září 1992, nahrávací společnost ale album nakonec odmítla vydat. Nicméně několik kazet se stejně dostalo k hudebním publicistům a posluchačům. Album se stalo velmi oblíbené především u internetových posluchačů.
Druhý pokus o vydání debutového alba už byl úspěšný - mnoho písní na albu Tuesday Night Music Club napsali její přátelé, včetně singlu Leaving Las Vegas. Album na sebe pomalu, ale jistě začalo strhávat pozornost. Nečekaně velkým hitem se stal především single All I Wanna Do, který vyšel na jaře 1994. Není divu, že za svůj hudební počin Sheryl Crow obdržela hned tři ceny Grammy.
V roce 1996 vyšlo její druhé řadové album nazvané jednoduše Sheryl Crow. Album bylo o něco temnější. V textech zpívala o politice, potratech, bezdomovcích a nukleární válce. Singl If It Makes You Happy se stal obrovským hitem a vynesl Sheryl dvě ceny Grammy. O rok později pak byla nominována na cenu Grammy za singl k filmu o Jamesu Bondovi.
V roce 1998 vydala své třetí album nazvané The Globe Session, za které opět získala cenu Grammy. Během tohoto období prý procházela hlubokou depresí. Hodně se tehdy spekulovalo o jejím vztahu s Ericem Claptonem. V roce 2002 pak zemřel její nejlepší přítel Sharon Monsky, na jehož pohřbu zazpívala píseň Be Still My Soul, která později vyšla i jako single. Poté vydala další úspěšné album nazvané C'mon, C'mon. V roce 2003 se ostře postavila proti válce v Iráku. Často nosila triko s nápisem „Nevěřím ve vaši válku, pane Bushi.“ V roce 2005 oficiálně oznámila, že je ve vztahu s cyklistou Lancem Armstrongem. Ten skončil v únoru 2006.
Její další album nazvané Wildflower vyšlo v roce 2005 a ve Spojených státech debutovalo na druhém místě. Album obdrželo smíšené recenze a nedočkalo se úspěchu, jakým se mohla pyšnit předešlá alba. V únoru 2006 byla zpěvačce diagnostikována rakovina prsu. Na onemocnění se ale naštěstí přišlo brzy, a tak se Sheryl brzy uzdravila.
Po bezmála tříleté odmlce vydala v únoru 2008 šesté studiové album pojmenované Detours. Album se hemží odkazy na soukromý život zpěvačky - adopce syna, boj s rakovinou, rozpad vztahu s Lancem Armstrongem. Sheryl posluchači odkrývá své nejniternější pocity a podle ohlasů kritiky se jí podařilo uhodit na správnou strunu.
