NVIDIA wil wijzigingen in AI-datacenters eerst door AI-agents laten testen

Het bouwen en beheren van groot­scha­lige AI-infra­struc­turen wordt steeds complexer. NVIDIA intro­du­ceert daarom een aanpak waarbij digital twins en AI-agents samen­werken om wijzi­gingen in AI-data­cen­ters te testen voordat ze daad­wer­ke­lijk worden door­ge­voerd. Daarmee moeten orga­ni­sa­ties niet alleen sneller nieuwe infra­struc­tuur kunnen imple­men­teren, maar ook de risico’s van confi­gu­ra­tie­fouten, bevei­li­gings­pro­blemen en versto­ringen beperken.

Een modern AI-data­center, door NVIDIA doorgaans aangeduid als een AI factory, bestaat uit veel meer dan een verza­me­ling krachtige GPU-servers. Proces­soren, netwerk­com­po­nenten, opslag­voor­zie­ningen, bevei­li­gings­sys­temen en software voor het verdelen van rekenwerk moeten nauw­keurig op elkaar worden afgestemd. Een wijziging in één onderdeel kan gevolgen hebben voor de pres­ta­ties of beschik­baar­heid van de complete omgeving.

Dat maakt het testen van nieuwe confi­gu­ra­ties inge­wik­keld. Tradi­ti­o­neel gebeurt dit vaak pas wanneer de fysieke infra­struc­tuur beschik­baar is of in een afzon­der­lijke testom­ge­ving. Dat kost tijd en vraagt om extra hardware. Bovendien is het lastig om alle mogelijke inter­ac­ties tussen de verschil­lende compo­nenten vooraf te onderzoeken.

NVIDIA beschrijft in een nieuwe tech­ni­sche publi­catie hoe digital twins en AI-agents dit proces kunnen veran­deren. Het uitgangs­punt is dat beheer­ders een repre­sen­ta­tieve digitale kopie van hun AI-infra­struc­tuur gebruiken om wijzi­gingen te onder­zoeken. AI-agents voeren vervol­gens zelf­standig controles uit, analy­seren de resul­taten en adviseren over eventuele vervolgstappen.

Digital twin als testomgeving

Centraal in de aanpak staat NVIDIA DSX Air, een simu­la­tie­om­ge­ving waarmee orga­ni­sa­ties de infra­struc­tuur van een AI-data­center digitaal kunnen nabootsen. Daarbij gaat het niet alleen om de fysieke opbouw van servers en netwerk­ver­bin­dingen, maar ook om de software, confi­gu­ra­ties en inter­faces waarmee de infra­struc­tuur wordt beheerd.

Zo kunnen beheer­ders bijvoor­beeld onder­zoeken wat er gebeurt wanneer netwerk­con­fi­gu­ra­ties worden aangepast, nieuwe software wordt geïn­stal­leerd of bevei­li­gings­re­gels veran­deren. De digitale tweeling maakt het mogelijk om onder­steunde confi­gu­ra­ties te testen zonder direct in te grijpen in de produc­tie­om­ge­ving. Een belang­rijk voordeel is uiteraard dat dit dan al kan voordat alle benodigde hardware daad­wer­ke­lijk is geleverd. Orga­ni­sa­ties kunnen daardoor eerder beginnen met het contro­leren van ontwerpen en het voor­be­reiden van de implementatie.

NVIDIA benadrukt overigens dat niet alle eigen­schappen van een AI-data­center met dezelfde simu­la­tie­me­thode kunnen worden onder­zocht. Voor bijvoor­beeld ener­gie­ver­bruik, geheu­gen­ca­pa­ci­teit en pres­ta­ties zijn aanvul­lende modellen nodig. DSX Air richt zich vooral op het valideren van infra­struc­tuur­con­fi­gu­ra­ties, software-inte­gra­ties en opera­ti­o­nele processen.

AI-agents voeren controles uit

De volgende stap is het koppelen van AI-agents aan de digitale tweeling. Deze agents krijgen speci­fieke opdrachten en kunnen vervol­gens zelf­standig de benodigde controles uitvoeren. Stel bijvoor­beeld dat een beheerder een wijziging wil aanbrengen in de netwerk­con­fi­gu­ratie van een AI-cluster. Een AI-agent kan de voor­ge­stelde confi­gu­ratie in de digitale tweeling toepassen en onder­zoeken of de wijziging voldoet aan de tech­ni­sche en bevei­li­gings­eisen van de organisatie.

Daarbij kan de agent infor­matie ophalen uit tech­ni­sche docu­men­tatie, interne proce­dures en bevei­li­gings­richt­lijnen. Vervol­gens verge­lijkt hij de resul­taten met de vooraf vast­ge­stelde eisen. Wanneer afwij­kingen worden gevonden, kan de agent een rapport opstellen of een wijzi­gings­ver­zoek aanmaken.

De aanpak sluit aan op bestaande CI/CD-processen, waarbij software- en confi­gu­ra­tie­wij­zi­gingen via geau­to­ma­ti­seerde controles worden voor­be­reid op inge­bruik­name. Het is overigens niet de bedoeling dat AI-agents onbe­perkte toegang krijgen tot produc­tie­om­ge­vingen. NVIDIA voorziet in een werkwijze waarbij agents binnen de simu­la­tie­om­ge­ving expe­ri­men­teren, terwijl beleids­re­gels en mense­lijke goed­keu­ring bepalen welke wijzi­gingen daad­wer­ke­lijk mogen worden uitgevoerd.

Extra GPU-capaciteit voor AI-agents

Om de AI-agents en bijbe­ho­rende AI-toepas­singen te laten func­ti­o­neren, koppelt NVIDIA DSX Air aan NVIDIA Brev. Deze dienst biedt GPU-reken­kracht op aanvraag. Hierdoor kunnen orga­ni­sa­ties AI-modellen laten draaien die commu­ni­ceren met de gesi­mu­leerde infra­struc­tuur. De modellen hoeven dus niet op de gesi­mu­leerde hardware zelf te worden uitge­voerd. De digitale tweeling bootst de infra­struc­tuur en relevante software-inter­ac­ties na, terwijl de benodigde AI-bere­ke­ningen op afzon­der­lijke GPU-systemen plaatsvinden.

NVIDIA ziet de digitale tweeling niet uitslui­tend als hulp­middel tijdens de ontwerp­fase. Het bedrijf wil dezelfde omgeving gedurende de volledige levens­cy­clus van een AI-data­center gebruiken.

Tijdens de ontwerp­fase kunnen agents alter­na­tieve confi­gu­ra­ties onder­zoeken. Bij de imple­men­tatie contro­leren ze of de infra­struc­tuur aan de gestelde eisen voldoet. Zodra het data­center opera­ti­o­neel is, kunnen agents afwij­kingen signa­leren, confi­gu­ra­tie­wij­zi­gingen voor­be­reiden en mogelijke verbe­te­ringen voorstellen.

Daarmee ontstaat een terug­kop­pe­ling tussen de werke­lijke infra­struc­tuur en de digitale testom­ge­ving. Infor­matie over inci­denten en uitge­voerde wijzi­gingen kan worden gebruikt om toekom­stige controles te verbeteren.

Dit biedt ook moge­lijk­heden voor bevei­li­ging. Nieuwe bevei­li­gings­re­gels of aanpas­singen in toegangs­rechten kunnen bijvoor­beeld eerst in de digitale tweeling worden gecon­tro­leerd. Daarmee wordt het risico kleiner dat een wijziging onbedoeld bestaande toepas­singen verstoort.

Simulatie blijft afhankelijk van de werkelijkheid

De aanpak kent ook beper­kingen. Een digitale tweeling is immers alleen bruikbaar wanneer deze voldoende over­een­komt met de werke­lijke infra­struc­tuur. Verou­derde confi­gu­ra­tie­ge­ge­vens of ontbre­kende afhan­ke­lijk­heden kunnen ertoe leiden dat een simulatie een onjuist beeld geeft.

Daarnaast betekent een geslaagde test niet auto­ma­tisch dat een wijziging in de produc­tie­om­ge­ving probleem­loos zal verlopen. Vooral pres­ta­ties, ener­gie­ver­bruik en gedrag onder extreme belasting vragen om aanvul­lende metingen en gespe­ci­a­li­seerde modellen.

Ook de betrouw­baar­heid van AI-agents blijft een aandachts­punt. Daarom zijn duide­lijke bevoegd­heden, contro­leer­bare resul­taten en mense­lijke goed­keu­rings­pro­ce­dures noodzakelijk.

NVIDIA adviseert orga­ni­sa­ties dan ook om klein te beginnen, bijvoor­beeld met één terug­ke­rende controle van confi­gu­ra­tie­wij­zi­gingen. Pas wanneer deze werkwijze voldoende betrouw­baar blijkt, kan het aantal geau­to­ma­ti­seerde processen worden uitgebreid.

De ontwik­ke­ling laat zien hoe de rol van digitale twee­lingen verandert. Waar ze aanvan­ke­lijk vooral werden gebruikt om ontwerpen te visu­a­li­seren en scenario’s door te rekenen, worden ze stapje voor stapje onderdeel van het dage­lijkse beheer. Door AI-agents hieraan te koppelen, ontstaat een omgeving waarin systemen niet alleen worden gesi­mu­leerd, maar waarin ook actief wijzi­gingen worden onder­zocht en voorbereid.

Voor beheer­ders van AI-infra­struc­turen kan dat uitein­de­lijk betekenen dat een belang­rijk deel van het testen en contro­leren verschuift van de fysieke produc­tie­om­ge­ving naar een digitale omgeving. Of dit in de praktijk ook leidt tot de verwachte tijdwinst en hogere betrouw­baar­heid, zal afhangen van de kwaliteit van de simu­la­ties en de mate waarin de AI-agents betrouw­baar kunnen worden ingezet.