John Michael Osbourne néven született 1948. december 3-án. Tizenöt évesként hagyta abba az iskolát, fiatalkorúként kétkezi munkásként dolgozott, illetve betörésért hat hét börtönre ítélték. 1967-ben az utcán csábították az alakulófélben lévő Approach együttesbe énekelni, majd megalakította Rare Breed nevű saját bandáját. Ez számos névváltoztatás után Earth néven futott. 1969-ben a tagok megnéztek egy Lugosi Béla-horrorfilmet, amelynek címe Black Sabbath volt. A négy zenész - Ozzy, Bill Ward, Tony Iommi és Geezer Butler - azonnal felvette a nevet és sötét, kegyetlenül kemény metált kezdett játszani.

Első két albumuk hamar platina lett, de a Black Sabbathot stílusa és a külsőségek miatt ettől kezdve a közönség mindmáig sátánistának, Ozzyt pedig pszichopatának könyvelte el - minden alap nélkül.
"Csináltam néhány rossz dolgot az életemben. De nem vagyok az ördög. Csak John Osbourne vagyok: egy munkáscsaládból származó srác Astonból, aki felmondta a gyári állását, és elindult a jó életet keresni" - olvasható önéletrajzában.

A rajongói által a "Sötétség hercegének", illetve a "Heavy Metal keresztapjának" szólított Osbourne egyebek között azzal vált ismertté, hogy egyik 1982-ben tartott koncertjén egy rajongó a színpadra egy denevért dobott, amelynek leharapta a fejét.
Osbourne a történteket követően következetesen azt állította, hogy úgy hitte, egy játékszerről van szó, míg rá nem jött tévedésére, majd a kórházba kellett sietnie, hogy veszettség elleni oltást kapjon.

A Black Sabbath és Ozzy tíz év és nyolc (mások szerint hét) album után szakított, mert az énekes a drogok és a szesz rabja lett, teljesítménye hanyatlott és megbízhatatlanná vált. Osbourne ugyanakkor szólóban is nagy sikereket ért el: állandóan változó összetételű együttese képzettebb zenészekből állt, és a zene is jobban eltalálta a széles közönség ízlését. 1989-ben hatóságilag kötelezték elvonókúrára, mert feleségét is meg akarta gyilkolni. A kilencvenes években az Ozzfest-turnékkal jelezte, hogy még él, majd 1998-ban összeállt a Black Sabbath eredeti tagjaival, és egy új lemezt is készítettek. 2005-ben szólóművészként és a Black Sabbath tagjaként is beválasztották a brit Zenei Hírességek Csarnokába, majd 2006-ban bekerült az amerikai Rock and Roll Hírességek Csarnokába a Black Sabbath többi tagjával. Ötszörös Grammy-díjas, 2019-ben életművéért kapta meg.

Több filmen is szerepelt: Intim részek (1997), Sátánka (2000), Osbourne család (2001-2005 tv-sorozat). I Am Ozzy című memoárkötete 2009-ben jelent meg. 2016-ban a birminghami helyi Midland Metro közlekedési társaság villamoskocsit nevezett el róla. 2020-ban a rocklegenda egy interjúban feltárta, hogy a Parkinson-kór egyik enyhébb típusában szenved, emiatt egy esést követően műtétet kellett végrehajtani a nyakán. Svájci kezelései miatt észak-amerikai turnéját is kénytelen volt lemondani. 2022-ben jelent meg 13. szólóalbuma Patient Number 9 címmel. 2023 elején európai turnéra indult volna, de súlyos gerincproblémái miatt lemondta. Két hete tartott búcsúkoncertet Birminghamben, és a koncertjegyek 16 perc alatt elkeltek.

Osbourne-t felesége és egyben menedzsere, Sharon, öt gyermeke és számos unokája gyászolja.