Podstatně většího úspěch než se svým debutovým počinem ovšem dosáhla se svou druhou deskou pojmenovanou Relish, která vyšla v roce 1995. Z tohoto alba, které se pohybuje na pomezí country, blues a folkové hudby, vzešla popová píseň One of Us. Deska obsahuje také hity jako St. Teresa nebo Right Hand Man. Poté, co se Joan Osborne zúčastnila putovního festivalu Lilith Fair, se řady jejích fanoušků značně rozrostly. Zpěvačka si tak vybudovala pevné místo mezi písničkářkami jako Tori Amos nebo Sarah McLachlan. Její v pořadí třetí album nazvané Righteous Love ale v albových hitparádách příliš dlouho nepobylo a písničkářka tak poněkud upadla v zapomnění.

V létě 2003 podnikla se svou kapelou řadu vystoupení, na nichž je doprovázela skupina Dixie Chicks. Ve témže roce také spatřilo světlo světa její album nazvané How Sweet It Is, které obsahuje cover verze klasických rockových a soulových písní.

Další album Pretty Little Stranger vyšlo v roce 2005 a Joan Osborne o něm mluví jako o „nashvillském albu”. Je na něm například píseň After Jane, která je o milostném vztahu dvou žen. Zpěvačka sama v několika rozhovorech otevřeně přiznala, že je bisexuální. Následovaly alba Breakfest in Bed a Little Wild One. Poslední album Bring It On Home, které obsahuje cover verze různých bluesových skladeb, vyšlo v roce 2012 a bylo nominováno na cenu Grammy v kategorii nejlepší bluesové album.