Umělec, kterého americký hudební časopis Rolling Stone zařadil na 97. místo v žebříčku nejlepších zpěváků všech dob, byl ovlivněn především hudební tvorbou Raye Charlese a Lonnieho Donegana. Svou první zkušenost se zpěvem na veřejnosti získal ve svých dvanácti letech, kdy ho jeho starší bratr Victor vybídl, aby se na jevišti připojil k jeho skifflové skupině. V roce 1960 pak Joe Cocker společně svými třemi kamarády založil svou první skupinu Tha Cavaliers. Skupina se po pouhém roce působení rozpadla a Cocker se poté rozhodl opustit střední školu a začít se intenzivně věnovat své hudební kariéře. Vzhledem k tomu, že trpěl nedostatkem peněz, musel se živit jako obsluha benzínové pumpy.
Svou pěveckou kariéru tedy odstartoval v roce 1961 vystupováním v sheffieldských hospodách. Postupně se však vypracoval a v roce 1983 získal cenu Grammy za píseň Up Where We Belong, kterou nazpíval s Jennifer Warnes.
