Sovereign AI, een veiliger en duurzaam alternatief voor toepassingen als ChatGPT

28 november 2024

De afgelopen jaren heeft de opkomst van gene­ra­tieve AI met toepas­singen zoals ChatGPT voor een ware revolutie gezorgd in hoe bedrijven kunst­ma­tige intel­li­gentie inzetten. Hoewel deze tech­no­logie indruk­wek­kend is en veel bedrijven helpt taken te auto­ma­ti­seren, moeten we ook kritisch durven te zijn voor deze evolutie. Willen we echt afhan­ke­lijk zijn van buiten­landse AI-diensten, vaak beheerd door Ameri­kaanse tech­gi­ganten? Met sovereign AI is er nochtans een betaal­baar en duurzamer alternatief.

Sovereign AI verwijst naar AI-systemen die volledig eigendom zijn van en beheerd worden door bedrijven, orga­ni­sa­ties of overheden. In plaats van het outsourcen van AI naar grote tech­be­drijven, ontwik­kelen en beheren orga­ni­sa­ties hun eigen AI-oplos­singen. Dat zorgt voor maximale privacy, veilig­heid en controle. Gevoelige data blijft binnen de orga­ni­satie, wat de risico’s van data­lekken of onge­wenste kosten­stij­gingen voorkomt. Bovendien zorgt het voor een autonome AI-ontwik­ke­ling die afgestemd is op de speci­fieke behoeften en belangen van de orga­ni­satie, zonder de onze­ker­heden van externe modellen en updates.

Zo is het Belgische bedrijf ReBatch vandaag al in staat om op maat gemaakte AI-oplos­singen te bouwen voor bedrijven en orga­ni­sa­ties, zonder daarvoor beroep te doen op OpenAI of Microsoft.. Het bedrijf richt zich onder meer op NLP (natural language proces­sing), het begrijpen en struc­tu­reren van tekstuele infor­matie en computer vision. Partners als NVIDIA, Red Hat en Dell Tech­no­lo­gies verzorgen de infra­struc­tuur waar­binnen de sovereign AI-toepas­singen worden uitgerold. 

Privacy en veiligheid

Een van de grootste voordelen van sovereign AI is het waar­borgen van privacy en veilig­heid. Door data binnen de eigen orga­ni­satie te houden, mini­ma­li­seren bedrijven het risico dat gevoelige infor­matie uitlekt naar derde partijen. Dit is vooral van belang voor gevoelige sectoren zoals de gezond­heids­zorg en de finan­ciële sector, waar gege­vens­be­vei­li­ging toppri­o­ri­teit heeft.

Een ander belang­rijk voordeel is autonomie. Wie vertrouwt op externe AI-leve­ran­ciers is immers afhan­ke­lijk van hun updates en wijzi­gingen. Soms kan een AI-model dat je gebruikt plots niet meer beschik­baar zijn of kan het gedrag ervan veran­deren na een update. Dat kan de consis­tentie en betrouw­baar­heid van je AI-toepas­singen onder­mijnen. Sovereign AI stelt bedrijven in staat om volledige controle te hebben over hun AI-modellen en hun levenscyclus.

Duurzaam en efficiënt

Een veel­ge­hoorde misvat­ting is dat het draaiend houden van een eigen AI-systeem gigan­ti­sche hoeveel­heden energie en geld vereist. Dat is niet altijd het geval. Zo bestaan er kleinere modellen die getraind kunnen worden op eigen data. Denk aan het ReBatch-project ‘Reynaerde’, een specifiek op het Neder­lands afgestemd taalmodel. De training hiervan kostte minder dan 1.000 euro en kan zelfs op een laptop draaien. Dat maakt sovereign AI niet alleen toegan­ke­lijk, maar ook duurzaam.

Open source-revolutie

We staan aan de vooravond van een open source-revolutie binnen AI. Het valt te verwachten dat open source AI tegen het einde van dit jaar zelfs betere pres­ta­ties zal leveren dan gesloten, betaalde AI-diensten. Zo is ReBatch al over­ge­stapt van Azure OpenAI naar Mistral, een open source AI-model, en de resul­taten zijn indruk­wek­kend. Dit toont aan dat het niet nodig is om te inves­teren in dure SaaS-diensten om geavan­ceerde AI-oplos­singen te bouwen.

Open source AI biedt ook voordelen op het gebied van kosten. Ter verge­lij­king: het verwerken van 1 miljoen tokens met GPT kost 0,60 euro, terwijl hetzelfde met een open source model zoals LLama slechts 0,306 euro kost – inclusief de kosten voor servers en elek­tri­ci­teit. Open source AI biedt orga­ni­sa­ties zo de moge­lijk­heid om kosten te besparen en tege­lij­ker­tijd de pres­ta­ties van hun AI-oplos­singen te optimaliseren.

Cruciale bouwstenen

De op maat gemaakte AI-modellen en appli­ca­ties moeten eerst en vooral passen bij de behoeften van de orga­ni­satie. Daarnaast moet alle AI-software efficiënt draaien en veilig zijn. Bovendien moeten de appli­ca­ties en toepas­singen op speciale servers geïn­stal­leerd worden met open source software. Uiteraard is daarvoor de benodigde en speci­fieke hardware nodig, opdat alle AI-toepas­singen ook effectief werken. Belang­rijke partners en grote bedrijven als NVIDIA, Red Hat en Dell zetten daar hun schouders mee onder.

Deze combi­natie van tech­no­lo­gieën stelt bedrijven in staat om de volledige controle te behouden over hun AI-oplos­singen, van het trainen van modellen tot het imple­men­teren ervan in hun IT-infrastructuur.

Flexibiliteit

Jorge De Corte, oprichter van ReBatch: “Wij zien open source als de basis van de AI-oplos­singen van morgen. Met de juiste infra­struc­tuur en tools kunnen bedrijven hun eigen AI-oplos­singen creëren en beheren, zonder afhan­ke­lijk te zijn van dure externe diensten. Door gebruik te maken van flexibele tech­no­lo­gieën zoals Kuber­netes en DevOps, kunnen AI-oplos­singen snel en efficiënt worden geïm­ple­men­teerd en geschaald. Dat stelt orga­ni­sa­ties in staat om snel in te spelen op veran­de­ringen en inno­va­ties in de AI-wereld.”

Pin It on Pinterest

Share This