Red Hat introduceert RHEL AI, een platform dat gebruikers toelaat makkelijk generatieve AI-modellen te ontwikkelen, te testen en uit te rollen. RHEL AI is gebaseerd op de open source Granite-LLM familie van IBM Research, aligneringstools van InstructLab en de gemeenschap achter het InstructLab project. De oplossing wordt aangeboden als een RHEL image voor individuele servers over de hybride cloud heen en is inbegrepen in OpenShift AI, Red Hats MLOps platform.
De lancering van ChatGPT bracht GenAI in een stroomversnelling. Vandaag bouwen bedrijven volwaardige AI-applicaties. Dankzij een groeiend ecosysteem van open modellen kon innovatie in AI bijzonder snel gaan, waardoor klanten nu uit talloze oplossingen kunnen kiezen.
Bij AI-projecten houden bedrijven best rekening met o.a. AI-infrastructuur aanschaffen, AI-modellen aligneren met de bedrijfsnoden en de integratie met de bedrijfsapps. Om AI-innovatie te blijven stimuleren moeten bedrijven grotere controle krijgen over de kosten en de juiste verantwoordelijke personen aanduiden. Met de aligneringstools van InstructLab, de Granite oplossingen en RHEL AI wil Red Hat de voordelen van open source naar GenAI brengen om die uitdagingen te tackelen.
AI bouwen met InstructLab
IBM Research ontwikkelde de LAB-techniek (Large-scale Alignment for chatBots), een aanpak die de ontwikkeling van AI-modellen meer open en toegankelijk moet maken door dure menselijke annotaties en merkgebonden modellen weg te nemen. Door het succes van de LAB-methode om de prestaties van modellen te verbeteren, besloten Red Hat en IBM om InstructLab te lanceren, een open source gemeenschap gebouwd rond de LAB-methode en het open source Granite-model van IBM. Het InstructLab project wil de ontwikkeling van LLM teruggeven aan ontwikkelaars door LLM-projecten even simpel te maken als elk ander open source project.
Open source AI-innovatie op Linux backbone
RHEL AI bouwt voort op de open aanpak voor AI-innovatie, en voegt een bedrijfsversie van het InstructLab project – met Granite taal en modellen – toe aan het toonaangevende enterprise Linux platform. Projecten uitrollen in de hybride cloud wordt zo nog makkelijker. RHEL AI wordt zo de basis om open source GenAI modellen naar bedrijven te brengen.
RHEL AI functionaliteiten zijn onder andere:
- Gelicentieerde open source Granite taal en code modellen
- Een ondersteunde, levenslange distributie van InstructLab
- Geoptimaliseerde opstartbare model runtime-instanties, waaronder Pytorch en hardware acceleratoren voor NVIDIA, Intel en AMD
- Red Hat’s volledige bedrijfs- en levenscyclus ondersteuning
Projecten in RHEL AI zullen makkelijk opgeschaald kunnen worden met Red Hat OpenShift AI. OpenShift AI zal RHEL AI bevatten. Bedrijven zullen OpenShift Kubernetes kunnen gebruiken om AI-modellen te trainen op schaal. De MLOps functionaliteiten in OpenShift AI zullen de levenscyclus van het model beheren. OpenShift AI en RHEL AI zullen ook mee opgenomen worden in IBM watsonx voor extra functionaliteiten voor AI-ontwikkeling en data management bij bedrijven.
