Red Hat en Meta hebben een nieuwe samenwerking aangekondigd om generatieve AI (Gen AI) toegankelijker, consistenter en goedkoper te maken voor bedrijven.
Een eerste vorm van samenwerking tussen beide spelers begon met de onmiddellijke ondersteuning voor Meta’s nieuwste AI-model Llama 4, via Red Hat AI en vLLM, een open source AI-platform dat inferentie in grote taalmodellen sneller laat draaien.
Nu gaan beide bedrijven verder en bundelen ze hun krachten om de projecten Llama Stack en vLLM beter op elkaar af te stemmen. Zo willen ze het eenvoudiger en goedkoper maken voor bedrijven om open Gen AI-technologie te gebruiken en in te zetten.
Volgens Gartner “zal tegen 2026 meer dan 80 procent van de onafhankelijke softwareleveranciers AI integreren in hun bedrijfstoepassingen, tegenover slechts één procent vandaag.” Dat toont hoe groot de nood is aan open en betrouwbare technologie.
De samenwerking tussen Red Hat en Meta maakt het mogelijk om Gen AI-toepassingen soepel te laten draaien op verschillende platformen, clouddiensten en AI-acceleratoren – vooral tijdens de fase waarin AI effectief gebruikt wordt: de inferentie.
De open samenwerking tussen Red Hat en Meta vertaalt zich in twee belangrijke projecten:
- Llama Stack, ontwikkeld door Meta en beschikbaar als open source. Het biedt standaard bouwstenen en koppelingen om AI-toepassingen eenvoudiger te bouwen en te beheren.
- vLLM, waar Red Hat een voortrekkersrol in heeft. Een inferentieserver die de prestaties van Gen AI-modellen verbetert, waaronder ook Llama 4.
Een gemeenschappelijke basis en keuzevrijheid voor AI-toepassingen
Binnen de samenwerking draagt Red Hat actief bij aan Llama Stack. Zo wordt het platform aantrekkelijker voor ontwikkelaars die slimme AI-agenten willen bouwen met Red Hat AI. Dat past binnen Red Hats bredere aanpak: bedrijven de vrijheid geven om te kiezen uit meerdere AI-oplossingen. Het doel is om een betrouwbare en flexibele omgeving te bieden waarin bedrijven snel Gen AI-oplossingen kunnen ontwikkelen én gebruiken.
vLLM opent de weg naar betaalbare AI in bedrijven
vLLM heeft intussen al veel vooruitgang geboekt in het toegankelijk en goedkoper maken van krachtige Gen AI voor bedrijven. Het ondersteunt nu al de nieuwste generatie van Meta’s Llama-modellen, zoals Llama 4. Het maakt ook deel uit van het PyTorch-ecosysteem, waar Meta en andere spelers samenwerken aan een open aanbod van tools voor AI. Dat maakt van vLLM een ideale oplossing om bedrijven te helpen het maximum te halen uit generatieve AI.
