DEEPX helpt energieverbruik van AI te verminderen

29 december 2023

Tijdens CES 2024 intro­du­ceert het Koreaanse DEEPX de DX-H1. Dit is een PCIe-kaart die is  ontworpen om de pres­ta­ties van AI-servers te versnellen en tege­lij­ker­tijd het ener­gie­ver­bruik te verlagen. De DX-H1, die in aanloop naar de beurs in Las Vegas de CES 2024 Innovatie Award heeft gewonnen in de categorie Computer Hardware en Compo­nenten, legt de nadruk op pres­ta­ties, energie-effi­ci­ëntie en kosteneffectiviteit. 

De PCIe-versnel­ler­kaart biedt een uitzon­der­lijke ener­gie/­pres­tatie-effi­ci­ëntie die de huidige GPU-geba­seerde oplos­singen met meer dan 10 keer overtreft. Hierdoor kan deze kaart wellicht een signi­fi­cante rol gaan spelen in het vermin­deren van kool­stofe­mis­sies voor AI-servers en datacenters.

De markt voor AI-servers is afhan­ke­lijk van energie-inten­sieve GPU’s, waarvan het hoge ener­gie­ver­bruik leidt tot aanzien­lijke kool­stofe­mis­sies. De noodzaak om de mili­eu­ef­fecten te mini­ma­li­seren en de effi­ci­ëntie te verhogen, met name in data­cen­ters, stimu­leert de vraag naar duur­za­mere, ener­gie­zui­nige AI-acce­le­ra­tors. Analisten verwachten dan ook dat deze markt snel zal gaan groeien. Uit projec­ties van Trend­Force blijkt bijvoor­beeld dat de markt voor AI-servers zal groeien met een samen­ge­stelde jaar­lijkse groei (CAGR) van meer dan 36% tot 2027. Voor data­cen­ters die tege­lij­ker­tijd kool­stofe­mis­sies willen beperken en een compe­ti­tief voordeel willen behalen door AI-pres­ta­ties van topniveau mogelijk te maken, verte­gen­woor­digen producten zoals de DX-H1 een mogelijke oplossing.

DEEPX heeft twee nieuwe tech­no­lo­gieën ontwik­keld. Dat is aller­eerst IQ8. Dit is een manier om AI-modellen te compri­meren, waardoor data­ver­wer­king als het trainen van modellen sneller kan gebeuren. Smart Memory Access mini­ma­li­seert het gebruik van D‑RAM tot minder dan een tiende van de typische GPU-niveaus, wat met name gunstig is voor inferentie-workloads.

De DX-H1 inte­greert ook met bestaande GPU’sen biedt een interface om door GPU’s getrainde AI-modellen te onder­steunen. Dit maakt een overgang mogelijk voor bedrijven die de pres­ta­ties willen verbe­teren zonder de noodzaak van systeemwijzigingen.

Pin It on Pinterest

Share This