Nutanix lanceert Nutanix GPT-in-a-Box, een oplossing voor klanten die een vliegende start willen maken met artificial intelligence (AI)- en machine learning (ML)-innovatie, terwijl ze de volledige controle houden over hun data. Deze nieuwe oplossing is een full-stack software-defined AI-ready platform met services voor het configureren van hardware- en software-infrastructuur die geschikt is voor Large Language Models (LLM’s). Deze configuratie loopt via de open source AI- en MLOps-frameworks op het Nutanix Cloud Platform. Hierdoor kunnen klanten eenvoudig AI-ready infrastructuur aanschaffen om generatieve pre-trained transformers (GPT), waaronder LLM’s aan de edge of in het datacenter, te optimaliseren en uit te voeren.
Veel organisaties worstelen met de vraag hoe ze snel, efficiënt en veilig kunnen profiteren van generatieve AI- en AI/ML-toepassingen. Dit geldt met name voor use cases die niet in de public cloud kunnen worden uitgevoerd vanwege zorgen over datasoevereiniteit, governance en privacy. Elke dag duiken er nieuwe use cases op naarmate organisaties generatieve AI willen gebruiken om de klantenservice, de productiviteit van ontwikkelaars, de operationele efficiëntie en nog veel meer, te verbeteren. Dit gaat van geautomatiseerde transcriptie van interne documenten tot supersnel zoeken in multimedia content en geautomatiseerde analyses. Veel organisaties zien de mogelijkheden van AI, maar hebben groeiende zorgen over het lekken van intellectueel eigendom, compliance en privacy. Bovendien worstelen organisaties die een AI-ready stack willen bouwen vaak met de vraag hoe ze ML-beheerders en data scientists het beste kunnen ondersteunen, terwijl het vooruitzicht van grote AI-investeringen vaak leidt tot vertraging van hun AI- en ML-strategie.
“Klanten willen generatieve AI-oplossingen ontwerpen en implementeren, maar hebben niet de diepgaande expertise die nodig is om deze workloads te installeren, te configureren en uit te voeren. Daarnaast zijn er veel zorgen over het beschermen van data en het beschermen van het bedrijfs-IP – en dat alles terwijl ook de kosten goed beheerd moeten worden”, aldus Greg Macatee, Senior Research Analyst, Infrastructure Systems, Platforms and Technologies Group bij IDC. “Met GPT-in-a-Box biedt Nutanix klanten die worstelen met generatieve AI-adoptie een kant-en-klare, gebruiksvriendelijke oplossing voor AI use cases.”
De Nutanix GPT-in-a-Box oplossing levert kant-en-klare AI-infrastructuur voor het edge- of core-datacenter. Hierdoor kunnen klanten hun AI- en GPT-modellen direct draaien en optimaliseren, zonder dat zij de controle over hun data verliezen. Daarnaast biedt Nutanix een volledige aanvulling van beveiligings- en dataprotectie-oplossingen die ideaal zijn voor het beschermen van AI-data.
“De kern van wat we doen is het helpen van onze klanten met het aanpakken van grote IT-uitdagingen. Van het beheren van toenemende multicloud-complexiteit tot uitdagingen op het gebied van dataprotectie, en nu de adoptie van generatieve AI-oplossingen met behoud van de controle over data privacy en compliance”, zegt Thomas Cornely, SVP, Productmanagement bij Nutanix. “Nutanix GPT-in-a-Box is een AI-ready stack die de belangrijkste uitdagingen op het gebied van generatieve AI-adoptie oplost en AI-innovatie stimuleert.”
Nutanix GPT-in-a-Box omvat:
- Het toonaangevende Nutanix Cloud Infrastructure-platform, met Nutanix Files en Objects Storage-oplossingen, Nutanix AHV-hypervisor en Kubernetes, samen met NVIDIA GPU-acceleratie.
- Nutanix-services om klanten te helpen hun cluster te vergroten en een eigen stack te implementeren met open source deep learning- en MLOps-frameworks, een inference server en een samengestelde set van large language models, zoals Llama2, Falcon en MPT.
- Mogelijkheid voor data scientists en ML-beheerders om deze modellen onmiddellijk te gebruiken met een vrije keuze aan applicaties, verbeterde terminal-UI of CLI.
- Het platform kan ook worden gebruikt om andere GPT-modellen te draaien en te optimaliseren door gebruik te maken van interne data, gehost op de meegeleverde Nutanix Files- of Objects-services.
De Nutanix GPT-in-a-Box oplossing bouwt voort op de full-stack schaalbaarheid, prestaties, veerkracht en gebruiksgemak waar het Nutanix Cloud Platform om bekend staat. Nutanix’ schaalbare infrastructuur in public cloud-, datacenter- en edge use cases vormt de ideale omgeving om AI-applicaties te draaien en te optimaliseren, terwijl de controle over data behouden blijft. In een recent onderzoek gaf zelfs 78% van de Nutanix-klanten aan dat ze waarschijnlijk hun AI/ML-workloads op het Nutanix Cloud Platform zouden uitvoeren.
De expertise en betrokkenheid van Nutanix bij de open source AI-gemeenschap bieden klanten een sterke basis waarop ze hun AI-strategie kunnen bouwen. Belangrijke bijdragen zijn onder meer: deelname aan de MLCommons (AI-standaarden) adviesraad; mede-oprichter en technische leider bij het definiëren van de ML Storage Benchmarks en Medicine Benchmarks; dienen als co-voorzitter van de Kubeflow (MLOps) Training en AutoML werkgroepen bij de Cloud Native Computing Foundation (CNCF).
Kijk hier meer informatie over Nutanix GPT-in-a-Box.
