Nutanix vereenvoudigt adoptie van generatieve AI met nieuwe Nutanix GPT-in-a-Box oplossing

18 augustus 2023

Nutanix lanceert Nutanix GPT-in-a-Box, een oplossing voor klanten die een vliegende start willen maken met arti­fi­cial intel­li­gence (AI)- en machine learning (ML)-innovatie, terwijl ze de volledige controle houden over hun data. Deze nieuwe oplossing is een full-stack software-defined AI-ready platform met services voor het confi­gu­reren van hardware- en software-infra­struc­tuur die geschikt is voor Large Language Models (LLM’s). Deze confi­gu­ratie loopt via de open source AI- en MLOps-frame­works op het Nutanix Cloud Platform. Hierdoor kunnen klanten eenvoudig AI-ready infra­struc­tuur aanschaffen om gene­ra­tieve pre-trained trans­for­mers (GPT), waaronder LLM’s aan de edge of in het data­center, te opti­ma­li­seren en uit te voeren.

Veel orga­ni­sa­ties worstelen met de vraag hoe ze snel, efficiënt en veilig kunnen profi­teren van gene­ra­tieve AI- en AI/ML-toepas­singen. Dit geldt met name voor use cases die niet in de public cloud kunnen worden uitge­voerd vanwege zorgen over data­soe­ve­rei­ni­teit, gover­nance en privacy. Elke dag duiken er nieuwe use cases op naarmate orga­ni­sa­ties gene­ra­tieve AI willen gebruiken om de klan­ten­ser­vice, de produc­ti­vi­teit van ontwik­ke­laars, de opera­ti­o­nele effi­ci­ëntie en nog veel meer, te verbe­teren. Dit gaat van geau­to­ma­ti­seerde trans­criptie van interne docu­menten tot supersnel zoeken in multi­media content en geau­to­ma­ti­seerde analyses. Veel orga­ni­sa­ties zien de moge­lijk­heden van AI, maar hebben groeiende zorgen over het lekken van intel­lec­tueel eigendom, compli­ance en privacy. Bovendien worstelen orga­ni­sa­ties die een AI-ready stack willen bouwen vaak met de vraag hoe ze ML-beheer­ders en data scien­tists het beste kunnen onder­steunen, terwijl het voor­uit­zicht van grote AI-inves­te­ringen vaak leidt tot vertra­ging van hun AI- en ML-strategie.

“Klanten willen gene­ra­tieve AI-oplos­singen ontwerpen en imple­men­teren, maar hebben niet de diep­gaande expertise die nodig is om deze workloads te instal­leren, te confi­gu­reren en uit te voeren. Daarnaast zijn er veel zorgen over het beschermen van data en het beschermen van het bedrijfs-IP – en dat alles terwijl ook de kosten goed beheerd moeten worden”, aldus Greg Macatee, Senior Research Analyst, Infra­struc­ture Systems, Platforms and Tech­no­lo­gies Group bij IDC. “Met GPT-in-a-Box biedt Nutanix klanten die worstelen met gene­ra­tieve AI-adoptie een kant-en-klare, gebruiks­vrien­de­lijke oplossing voor AI use cases.”

De Nutanix GPT-in-a-Box oplossing levert kant-en-klare AI-infra­struc­tuur voor het edge- of core-data­center. Hierdoor kunnen klanten hun AI- en GPT-modellen direct draaien en opti­ma­li­seren, zonder dat zij de controle over hun data verliezen. Daarnaast biedt Nutanix een volledige aanvul­ling van bevei­li­gings- en datapro­tectie-oplos­singen die ideaal zijn voor het beschermen van AI-data.

“De kern van wat we doen is het helpen van onze klanten met het aanpakken van grote IT-uitda­gingen. Van het beheren van toene­mende multi­cloud-complexi­teit tot uitda­gingen op het gebied van datapro­tectie, en nu de adoptie van gene­ra­tieve AI-oplos­singen met behoud van de controle over data privacy en compli­ance”, zegt Thomas Cornely, SVP, Product­ma­na­ge­ment bij Nutanix. “Nutanix GPT-in-a-Box is een AI-ready stack die de belang­rijkste uitda­gingen op het gebied van gene­ra­tieve AI-adoptie oplost en AI-innovatie stimuleert.”

Nutanix GPT-in-a-Box omvat:

  • Het toon­aan­ge­vende Nutanix Cloud Infra­struc­ture-platform, met Nutanix Files en Objects Storage-oplos­singen, Nutanix AHV-hyper­visor en Kuber­netes, samen met NVIDIA GPU-acceleratie.
  • Nutanix-services om klanten te helpen hun cluster te vergroten en een eigen stack te imple­men­teren met open source deep learning- en MLOps-frame­works, een inference server en een samen­ge­stelde set van large language models, zoals Llama2, Falcon en MPT.
  • Moge­lijk­heid voor data scien­tists en ML-beheer­ders om deze modellen onmid­del­lijk te gebruiken met een vrije keuze aan appli­ca­ties, verbe­terde terminal-UI of CLI.
  • Het platform kan ook worden gebruikt om andere GPT-modellen te draaien en te opti­ma­li­seren door gebruik te maken van interne data, gehost op de meege­le­verde Nutanix Files- of Objects-services.

De Nutanix GPT-in-a-Box oplossing bouwt voort op de full-stack schaal­baar­heid, pres­ta­ties, veer­kracht en gebruiks­gemak waar het Nutanix Cloud Platform om bekend staat. Nutanix’ schaal­bare infra­struc­tuur in public cloud‑, data­center- en edge use cases vormt de ideale omgeving om AI-appli­ca­ties te draaien en te opti­ma­li­seren, terwijl de controle over data behouden blijft. In een recent onderzoek gaf zelfs 78% van de Nutanix-klanten aan dat ze waar­schijn­lijk hun AI/ML-workloads op het Nutanix Cloud Platform zouden uitvoeren.

De expertise en betrok­ken­heid van Nutanix bij de open source AI-gemeen­schap bieden klanten een sterke basis waarop ze hun AI-strategie kunnen bouwen. Belang­rijke bijdragen zijn onder meer: deelname aan de MLCommons (AI-stan­daarden) advies­raad; mede-oprichter en tech­ni­sche leider bij het defi­ni­ëren van de ML Storage Bench­marks en Medicine Bench­marks; dienen als co-voor­zitter van de Kubeflow (MLOps) Training en AutoML werk­groepen bij de Cloud Native Computing Foun­da­tion (CNCF).

Kijk hier meer infor­matie over Nutanix GPT-in-a-Box. 

Pin It on Pinterest

Share This