Dell en AMD presenteren een uitbreiding van het Dell Generative AI Solutions-portfolio en werken hiermee verder aan het versnellen van geavanceerde workloads en het bieden van meer keuze zodat bedrijven hun unieke GenAI-reis kunnen voortzetten. Deze nieuwe technologie benadrukt de cruciale rol van open ecosystemen en siliciumdiversiteit om klanten eenvoudige, betrouwbare en op maat gemaakte oplossingen te bieden om AI naar hun data te brengen.
De explosieve groei van data en de vraag wat we ermee moeten doen, staan centraal in het huidige AI-landschap. AI is de nieuwste innovatie en het is van belang dat organisaties toegang hebben tot de rekenkracht die nodig is om te innoveren. Samen met AMD biedt Dell klanten meer keuze om hun AI en GenAI workloads te verwerken dan ooit tevoren.
Dell PowerEdge XE9680 met AMD Instinct MI300X
De Dell PowerEdge XE9680, de snelste ramping-oplossing in de geschiedenis van Dell, ondersteunt de aankomende AMD Instinct MI300X accelerator die klanten meer keuze biedt wat betreft AI-prestaties. De PowerEdge XE9680 met AMD Instinct MI300X biedt krachtige mogelijkheden voor organisaties die de waarde van hun data willen ontsluiten en hun organisatie willen differentiëren met op maat gemaakte grootschalige taalmodellen (large language models, LLM’s). De oplossing heeft acht MI300X GPU’s, 192 GB 5,3 TB/s High Bandwidth Memory (HBM3) per GPU voor een totale coherente HBM3-capaciteit van 1,5 TB per server en meer dan 21 petaflops aan FP16-prestaties. Hierdoor is de PowerEdge XE9680 met MI300X klaar om de toegang tot GenAI verder te democratiseren voor organisaties die grotere modellen willen trainen, hun datacenter voetafdruk willen verkleinen, lagere TCO willen en een voorsprong op de concurrentie willen nemen.
De PowerEdge XE9680 biedt krachtige prestaties en is een kampioen op het gebied van beveiliging en eenvoud. Dell Open Manage Enterprise-software vereenvoudigt en versnelt de implementatie van GenAI-infrastructuur, terwijl CloudIQ-software intelligente automatisering vanaf elke locatie biedt. De PowerEdge XE9680 wordt ondersteund door geïntegreerd cyberherstel en een brede Zero Trust-aanpak voor betere beveiliging.
De PowerEdge XE9680 maakt gebruik van het AMD Instinct Platform – mogelijk gemaakt door acht AMD Instinct MI300X accelerators – dat bijna-lineaire schaalbaarheid en gedistribueerde GenAI-training en inferencing met lage latency met Global Memory Interconnect (xGMI) mogelijk maakt. Dit alles over een cluster van PowerEdge-servers die MI300X GPU’s met elkaar verbindt via een op Ethernet gebaseerde AI-fabric, met behulp van met Dell PowerSwitch Z9664F-ON.
Dell Validated Design for Generative AI with AMD
Naast de ondersteuning voor de AMD MI300X Instinct Accelerator, kondigen we ook de volgende stap aan van Dell Generative AI Solutions, waardoor organisaties eenvoudiger betrouwbare GenAI kunnen implementeren met de nieuwe Dell Validated Design for Generative AI met AMD.
Deze nieuwe Dell Validated Design for Generative AI met AMD ROCm, mogelijk gemaakt door AI frameworks en vanaf volgend jaar beschikbaar, breidt het ecosysteem van Dell Generative AI Solutions uit en zal open-source LLM’s bevatten. AMD ROCm is een open-source stack van drivers, dev toolkits en API’s voor AMD Instinct accelerators. Dankzij Dell Validated Designs for Generative AI kunnen Dell-klanten eenvoudig betrouwbare GenAI-platforms bouwen, aangepast op hun behoeften, door het giswerk weg te nemen bij overwegingen over integratie, prestaties en formaat.
Als lid van het Ultra Ethernet Consortium (UEC) blijft Dell pleiten voor networking gebaseerd op standaarden. Dell Technologies bevindt zich in een unieke positie om het volledige potentieel van een open benadering te realiseren, door deze te implementeren in de complete GenAI oplossing: computing, fabric en storage. De Dell PowerEdge XE9680 met AMD Instinct MI300X accelerators en Dell Validated Design for Generative AI met AMD zullen in de eerste helft van 2024 beschikbaar zijn.
