Svou první nahrávku natočila v roce 1985, tedy ve 14 letech. V té době také podepsala smlouvu s vydavatelstvím Rounder Records, u nějž o dva roky později vydala sólové album s názvem Too Late to Cry.
V roce 1989 vydala ve spolupráci se skupinou Union Station album s názvem The Highways a vznikla tak dlouhodobá hudební formace Alison Krauss + Union Station (AKUS).
Krauss dodnes vydala více než deset alb, nahrála hudební doprovod k několika filmovým snímkům a ve Spojených státech amerických přispěla k obnově zájmu o bluegrassovou hudbu. Na kontě má celkem sedmadvacet cen Grammy – jednu z nich získala například za soundtrack O Brother, Where Art Thou? z roku 2000.