Cloudera en NVIDIA gaan generatieve AI uitbreiden met NVIDIA-microservices

Cloudera, data­be­drijf voor zakelijke AI, gaat meer met NVIDIA samen­werken. Cloudera Powered by NVIDIA gaat de NVIDIA NIM micro­ser­vices inte­greren, die deel uitmaken van NVIDIA AI Enter­prise, in Cloudera Machine Learning. Dat is een Cloudera Data Platform-service voor AI/ML-workflows, om snelle, veilige gene­ra­tieve AI-workflows voor bedrijfs­pro­cessen te leveren. Cloudera laat een aantal nieuwe moge­lijk­heden deze week al zien tijdens de NVIDIA GTC ontwikkelaarsconferentie..

Generatieve AI met bedrijfsinformatie

Bedrijfs­in­for­matie en een platform dat is geop­ti­ma­li­seerd voor grote taal­mo­dellen (LLM), spelen een cruciale rol bij het toepassen van gene­ra­tieve AI in orga­ni­sa­ties. Met de micro­ser­vices NVIDIA NIM en NeMo Retriever kunnen ontwik­ke­laars AI-modellen snel en veilig koppelen aan de bedrijfs­in­for­matie. Inclusief tekst, afbeel­dingen en visu­a­li­sa­ties, zoals cirkel‑, lijn- en staaf­di­a­grammen, om nauw­keu­rige, contex­tueel relevante antwoorden te genereren.

Ontwik­ke­laars die deze micro­ser­vices gebruiken, kunnen appli­ca­ties imple­men­teren via NVIDIA AI Enter­prise, dat geop­ti­ma­li­seerde runtimes biedt voor het bouwen, aanpassen en imple­men­teren van LLM’s op bedrijfs­ni­veau. Met behulp van NVIDIA-micro­ser­vices stelt Cloudera Machine Learning klanten in staat om de waarde van hun door Cloudera beheerde bedrijfs­in­for­matie te benutten door hoog­waar­dige AI-workflows, AI-plat­form­soft­ware en extra verwer­kings­ca­pa­ci­teit naar de infor­matie te brengen, waar deze zich ook bevindt.

Meerdere integraties

Cloudera gaat meerdere inte­gra­ties bieden met NVIDIA-micro­ser­vices. Cloudera Machine Learning zal model- en appli­ca­tie­ser­vices inte­greren om de pres­ta­ties van model­in­fe­rentie voor alle workloads te verbe­teren. Met deze nieuwe functies voor AI-models­er­ving kunnen klanten fout­to­le­rantie, lage latentie en auto­ma­ti­sche schaling reali­seren voor modellen die overal worden ingezet, zowel vanuit de publieke als private cloud. Verder gaat Cloudera Machine Learning geïn­te­greerde NVIDIA NeMo Retriever-micro­ser­vices aanbieden om de verbin­ding van aange­paste LLM’s met bedrijfs­in­for­matie te vereen­vou­digen. Deze moge­lijk­heid stelt gebrui­kers in staat om op ‘retrieval-augmented generatie’ (RAG) geba­seerde appli­ca­ties te bouwen en toe te passen.

Cloudera werkte al eerder samen met NVIDIA om GPU-geop­ti­ma­li­seerde data­ver­wer­king te benutten door de inte­gratie van de NVIDIA RAPIDS Acce­le­rator voor Apache Spark in Cloudera’s Data Platform. Met de geplande toevoe­ging van NVIDIA-micro­ser­vices en inte­gratie met NVIDIA AI Enter­prise, gaat het Cloudera Data Platform op een unieke wijze gestroom­lijnde end-to-end hybride AI-pijp­lijnen leveren.

In de toekomst krijgen bedrijven in verschil­lende markten de moge­lijk­heid om sneller en intu­ï­tiever LLM’s te bouwen, aan te passen en in te zetten die de trans­for­ma­tieve gene­ra­tieve AI onder­steunen. Dit omvat toepas­singen zoals het coderen van co-pilots om de ontwik­kel­tijd te versnellen, chatbots voor het auto­ma­ti­seren van klan­tin­ter­ac­ties, apps voor het samen­vatten van teksten voor het snel verwerken van docu­menten, gestroom­lijnd en contex­tueel zoeken, en nog meer. Deze inno­va­ties maxi­ma­li­seren de toege­voegde waarde door data en AI voor de gehele orga­ni­satie eenvou­diger en sneller te maken, waardoor de omzet wordt verhoogd en de kosten worden geoptimaliseerd.

“Cloudera inte­greert NVIDIA NIM- en CUDA-X-micro­ser­vices om Cloudera Machine Learning aan te drijven en klanten te helpen de AI-hype om te zetten naar een zakelijke realiteit”, zegt Priyank Patel, Vice President van AI/​ML Products bij Cloudera. “Behalve het leveren van krachtige gene­ra­tieve AI-moge­lijk­heden en ‑pres­ta­ties aan klanten, zullen de resul­taten van deze inte­gratie bedrijven in staat stellen nauw­keu­ri­gere en tijdige beslis­singen te nemen en tege­lij­ker­tijd onnauw­keu­rig­heden, hallu­ci­na­ties en fouten in voor­spel­lingen te reduceren. Dat zijn kritische succes­fac­toren voor het navigeren door het huidige datalandschap. ”

“Bedrijven willen hun enorme hoeveel­heden infor­matie graag inzetten voor gene­ra­tieve AI om eigen copiloten en produc­ti­vi­teitstools te bouwen”, zegt Justin Boitano, Vice President Enter­prise Products bij NVIDIA. “De inte­gratie van NVIDIA NIM-micro­ser­vices in het Cloudera Data Platform biedt hun ontwik­ke­laars een manier om LLM’s eenvou­diger en flexi­beler in te zetten om bedrijf­strans­for­matie te stimuleren.”