O Black Label Society teve início em maio de 98, quando Zakk Wylde, então guitarrista de Ozzy Osbourne, chama Phil Ondich para tocar com ele em um show solo na Itália. Nick Catanese, amigo de Zakk Wylde, recomenda Phil para o cargo de baterista. Após esta reunião foi gravado o que viria a se tornar o "Sonic Brew", em Miami, FL.
Zakk e Phil decidiram chamar a banda de "Hell’s Kitchen" (para quem não sabe, um bairro de periferia de Nova Iorque), e o álbum de "Sonic Brewery". Tiveram que trocar o nome para Black Label Society por não conseguirem uma marca registrada para Hell’s Kitchen. O nome do álbum eles mudaram para "Sonic Brew".
No dia 28 de outubro de 1998, "Sonic Brew" foi lançado pela primeira vez. O CD continha 13 faixas ("Lost My Better Half" e "No More Tears 2000" ainda não haviam sido gravadas). O encarte era lindo, com parte da frente impressa em papel plástico e um álbum separado da parte da frente. A parte de trás foi pintado com tinta dourada. A embalagem acabou ficando muito melhor do que a música gravada, e todos concordaram que uma remixagem era necessária, pelo fato da bateria e os vocais estarem muito imersos na música, sem destaque. Gravaram também uma faixa bônus, "Lost My Better Half", a música mais pesada que Zakk havia gravado até ali. "Sonic Brew" foi finalmente relançado no dia 4 de maio de 1999.
Zakk precisava de um baixista e colocou um anúncio em todas as revistas de guitarristas: "PROCURA-SE POR UM BAIXISTA. De preferência um guitarrista que queira tocar baixo. Preferência por Fender P Bass. Entre 20 e 30 anos. Que toque bem pesado. Se não destruir como Cliff Burton não responda.". Evidentemente, não deu certo procurar um baixista desconhecido, e Zakk decidiu chamar seu velho amigo J.D.. Black Label Society estava agora completo: Zakk, Nick, Phil e J.D.
O Primeiro show do BLS foi no Club Quattro, no Japão, em Tóquio no dia 1º de maio de 1999. No último dia do show da turnê japonesa, Stephen Pearcy, ex-vocalista da banda de hard rock dos anos 80, Ratt, subiu ao palco para cantar um cover de Paranoid, do Black Sabbath. Após a turnê no Japão, eles fizeram uma turnê na Europa, tocando para o que foi o seu maior público até então no Dynamo Open Air ’99.
Após a turnê Européia, todas as apresentações da turnê americana foram canceladas. Um boato foi lançado de que Phill havia quebrado seu braço enquanto andava de jet-ski. Na verdade Phill não andava de jet-ski. Neste intervalo de tempo, com Mike Inez, gravam uma faixa bônus para as próximas edições de "Sonic Brew", "No More Tears 2000". O CD podia ser comprado em estandes nos shows, antes de ser lançado oficialmente nas lojas. Uma remessa pequena tinha uma foto de uma guitarra impressa, como premio para aquele que comprasse cedo o CD.
O BLS finalmente começam sua turnê nos EUA no meio de setembro de 1999, com a banda Loudmouth abrindo para eles em muitas ocasiões. Os show continham algumas musicas do Pride & Glory, músicas do "Sonic Brew" e em alguns shows, eles fizeram cover de "Miracle Man" do Ozzy. A turnê fechou sem nenhum problema.
No inverno americano de 1999/2000, Zakk e Philth voltaram aos estúdios na Califórnia para gravar o novo cd, "Stronger than Death". Enquanto eles gravavam, Mika Piazza, jogador do NT Mets, estava por lá, ficou com eles no estúdio e inclusive gravou alguns backing vocals e grunhidos na faixa título. Axl Rose também estava em um dos estúdios próximos, mas nada foi gravado com ele. Phil novamente fez toda a arte no encarte.
J.D. decide deixar a banda para ir atrás de outros objetivos pessoais e a vaga foi preenchida por Steve "S.O.B." Gibb, filho de Berry Gibb dos BeeGees.
Então o BLS saiu para a turnê "Penchant for Violence" no Japão em junho de 2000. A banda tocava musicas do "Stronger than Death", do "Sonic Brew" e um cover de "Demon Alcohol" do Ozzy. O cd "Stronger than Death" foi lançado no dia 8 de março de 2000 no Japão e no dia 18 de abril de 2000 nos EUA.
Quando a turnê no Japão acabou no dia 21 de junho de 2000, a turnê americana começou logo em seguida, sem tempo para descanso. Logo de cara foi feito um show apertado no The Sun Theater em Anaheim. Neste show, Phil desmaiou em cima da bateria por problemas no estômago, e Craig Nunenmacher da banda Crowbar (que estava em turnê com o BLS) saiu dos bastidores para substituí-lo. O Show continuou com o cover de algumas músicas do Sabbath. Dois outros show foram cancelados, mas após isso a banda voltou e tocou, o que dizem ser o melhor show de sua carreira.
Em um show em Indiana em 6 de julho de 2000, Zakk e Phil se desentenderam. Phil deixa a banda antes do show. Craig novamente toca na bateria com o BLS algumas musicas do Sabbath e depois do show é efetivado como o novo baterista do Black Label Society.
"Alcohol Fueled Brewtality Live", o cd ao vivo da banda, foi gravado em outubro de 2000 e lançado no dia 16 de janeiro de 2001. O Black Label foi adicionado ao Ozzfest 2001 e a música "Superterrorizer" do cd "Stronger than Death" foi a música que abriu o festival, sendo adicionada ao CD oficial. A introdução da música mais tarde se tornou "Battering Ram". Steve Gibb deixou a banda no meio do Ozzfest e Mike Inez (que havia tocado com Ozzy e Alice in Chains) o substitui no baixo. Como Mike precisou voltar à Califórnia por obrigações que tinha com outra banda, o técnico de baixo Frey Theiler preencheu a vaga nas datas remanescentes do Ozzfest 2001.
Durante o Ozzfest, Zakk gravou algumas musicas demos com Christian Werr na bateria, para mostrar a Ozzy para possível inclusão no seu novo álbum. Ozzy rejeitou as músicas, que eram "Bleed for Me", "Life/Birth/Blood/Doom", "Demise of Sanity", uma versão alternativa no piano para "Bridge to Cross" e uma demo sem nome. As últimas duas musicas nunca foram lançadas e as restantes Zakk incluiria no seu próximo álbum. Robert Trujillo, que tocava baixo junto com Zakk na banda de Ozzy, gravou "Life/Birth/Blood/Doom".
Em meados da tour "Merry Mayhem" do Ozzy, Zakk e Craig vão para os estúdios e gravam um CD que originalmente se chamaria "Deathcore Warmachine Eternal". Devido aos acontecimentos de 11 de Setembro de 2001 o CD foi lançado com um outro nome, "1919 Eternal", no dia 5 de março de 2002.
O Black Label Society foi aos palcos em todas as apresentações do Ozzfest 2002 com Robert Trujilo como baixista, fazendo um trabalho duplo, assim como Zakk Wylde, também na banda de Ozzy. O BLS conseguiu mais publicidade do que nunca nessa turnê e foram muito bem recebidos pelo público. Zakk subiu ao palco com o Soil e gravou a música "Halo" ao vivo, performance que está no cd ao vivo do Ozzfest 2002.
Numa de suas turnês no EUA, em Detroit, no Harpo’s, o Black Label Societygravou ao vivo o show para o DVD que foi lançado em 2003.
Zakk e Craig foram para os estúdios no outono e inverno de 2002 dos EUA, para gravar o novo cd "The Blessed Hellride", lançado na primavera dos EUA de 2003. O novo CD contem uma música com participação especial de Ozzy, entitulada "Stillborn".
