Red Hat Summit Denver: Red Hat lanceert Red Hat Enterprise Linux AI

Red Hat intro­du­ceert RHEL AI, een platform dat gebrui­kers toelaat makkelijk gene­ra­tieve AI-modellen te ontwik­kelen, te testen en uit te rollen. RHEL AI is gebaseerd op de open source Granite-LLM familie van IBM Research, alig­ne­ringstools van InstructLab en de gemeen­schap achter het InstructLab project. De oplossing wordt aange­boden als een RHEL image voor indi­vi­duele servers over de hybride cloud heen en is inbe­grepen in OpenShift AI, Red Hats MLOps platform.

De lancering van ChatGPT bracht GenAI in een stroom­ver­snel­ling. Vandaag bouwen bedrijven volwaar­dige AI-appli­ca­ties. Dankzij een groeiend ecosys­teem van open modellen kon innovatie in AI bijzonder snel gaan, waardoor klanten nu uit talloze oplos­singen kunnen kiezen.

Bij AI-projecten houden bedrijven best rekening met o.a. AI-infra­struc­tuur aanschaffen, AI-modellen aligneren met de bedrijfs­noden en de inte­gratie met de bedrijfs­apps. Om AI-innovatie te blijven stimu­leren moeten bedrijven grotere controle krijgen over de kosten en de juiste verant­woor­de­lijke personen aanduiden. Met de alig­ne­ringstools van InstructLab, de Granite oplos­singen en RHEL AI wil Red Hat de voordelen van open source naar GenAI brengen om die uitda­gingen te tackelen.

AI bouwen met InstructLab

IBM Research ontwik­kelde de LAB-techniek (Large-scale Alignment for chatBots), een aanpak die de ontwik­ke­ling van AI-modellen meer open en toegan­ke­lijk moet maken door dure mense­lijke anno­ta­ties en merk­ge­bonden modellen weg te nemen. Door het succes van de LAB-methode om de pres­ta­ties van modellen te verbe­teren, besloten Red Hat en IBM om InstructLab te lanceren, een open source gemeen­schap gebouwd rond de LAB-methode en het open source Granite-model van IBM. Het InstructLab project wil de ontwik­ke­ling van LLM terug­geven aan ontwik­ke­laars door LLM-projecten even simpel te maken als elk ander open source project.

Open source AI-innovatie op Linux backbone

RHEL AI bouwt voort op de open aanpak voor AI-innovatie, en voegt een bedrijfs­versie van het InstructLab project – met Granite taal en modellen – toe aan het toon­aan­ge­vende enter­prise Linux platform. Projecten uitrollen in de hybride cloud wordt zo nog makke­lijker. RHEL AI wordt zo de basis om open source GenAI modellen naar bedrijven te brengen.

RHEL AI func­ti­o­na­li­teiten zijn onder andere:

• Geli­cen­ti­eerde open source Granite taal en code modellen
• Een onder­steunde, levens­lange distri­butie van InstructLab
• Geop­ti­ma­li­seerde opstart­bare model runtime-instan­ties, waaronder Pytorch en hardware acce­le­ra­toren voor NVIDIA, Intel en AMD
• Red Hat’s volledige bedrijfs- en levens­cy­clus ondersteuning

Projecten in RHEL AI zullen makkelijk opge­schaald kunnen worden met Red Hat OpenShift AI. OpenShift AI zal RHEL AI bevatten. Bedrijven zullen OpenShift Kuber­netes kunnen gebruiken om AI-modellen te trainen op schaal. De MLOps func­ti­o­na­li­teiten in OpenShift AI zullen de levens­cy­clus van het model beheren. OpenShift AI en RHEL AI zullen ook mee opgenomen worden in IBM watsonx voor extra func­ti­o­na­li­teiten voor AI-ontwik­ke­ling en data mana­ge­ment bij bedrijven.