Doorbraak in energiezuinige kunstmatige intelligentie

8 oktober 2020

Dankzij een wiskun­dige doorbraak kunnen toepas­singen van kunst­ma­tige intel­li­gentie, zoals spraak­her­ken­ning, geba­ren­her­ken­ning en de clas­si­fi­catie van elek­tro­car­di­o­grammen (ECG), een factor honderd tot duizend ener­gie­zui­niger worden. Dat betekent dat het mogelijk wordt om kunst­ma­tige intel­li­gentie in chips te stoppen, waardoor toepas­singen bijvoor­beeld op een smart­watch of een smartphone kunnen draaien terwijl dat tot op heden in de cloud moest gebeuren.

Door kunst­ma­tige intel­li­gentie op een lokaal apparaat te draaien, worden de toepas­singen bovendien robuuster en privacy-vrien­de­lijker. Robuuster, omdat er geen netwerk­ver­bin­ding met de cloud meer nodig is. En privacy-vrien­de­lijker, omdat data lokaal kunnen blijven. De wiskun­dige doorbraak is bereikt door onder­zoe­kers van het in Nederland geves­tigde Centrum Wiskunde & Infor­ma­tica (CWI) en het Eind­ho­vense onder­zoeks­cen­trum IMEC/​Holst Centre en is gepu­bli­ceerd in een paper van de Inter­na­ti­onal Confe­rence on Neuro­morphic Systems. De onder­lig­gende wiskunde is open source beschikbaar. 

Onder leiding van CWI-onder­zoeker en UvA-hoog­le­raar cogni­tieve neuro­bi­o­logie Sander Bohté ontwik­kelden onder­zoe­kers Bojian Yin en Federico Corradi een nieuw algoritme voor een zogeheten spiking neural network (gepulst neuraal netwerk). Zulke netwerken bestaan al langer maar hadden tot nu toe het grote nadeel dat ze wiskundig moeilijk hanteer­baar waren waardoor ze in de praktijk niet konden worden toegepast. Het nieuwe algoritme bevat twee wiskun­dige door­braken. De neuronen in het netwerk hoeven veel minder met elkaar te commu­ni­ceren en daarnaast hoeft elk neuron ook nog eens minder te rekenen.  “In combi­natie zorgen deze door­braken ervoor dat kunst­ma­tige intel­li­gentie meer dan duizend keer ener­gie­zui­niger wordt, verge­leken met ouder­wetse neurale netwerken en een factor honderd ener­gie­zui­niger dan de beste heden­daagse neurale netwerken”, zegt onder­zoeks­leider Sander Bohté. 

Zuinig als het menselijk brein 

Bohté haalt zijn inspi­ratie en motivatie uit het feit dat het mense­lijke brein infor­matie verwerkt op een onge­lo­fe­lijk ener­gie­zui­nige manier (20 watt). Computers die neurale netwerken nabootsen hebben in de afgelopen jaren weliswaar prachtige toepas­singen opge­le­verd (beeld­her­ken­ning, spraak­her­ken­ning, auto­ma­tisch vertalen, medische diagnoses), maar slurpen veel meer energie dan het menselijk brein.  De spiking neurale netwerken die Bohté en zijn collega’s ontwik­kelen verschillen van de klassieke neurale netwerken, die tot nu toe in AI-toepas­singen zaten. Bohté: “In de klassieke neurale netwerken zijn de signalen continu en wiskundig makkelijk hanteer­baar. Spiking neurale netwerken werken met pulsjes en staan dichter bij de biologie van de hersenen. Dat betekent wel dat signalen discon­tinu zijn en wiskundig veel lastiger hanteerbaar.” 

Nieuw soort chips nodig

Om spiking neurale netwerken efficiënt toepas­singen te laten draaien zijn wel eerst aparte chips nodig. Bohté verwacht dat er binnen een jaar proto­typen zijn: “Allerlei bedrijven werken daar hard aan, zoals onze project­partner IMEC/​Holst Centre.” De spiking neurale netwerken van Bohté en zijn collega’s kunnen momenteel zo’n duizend neuronen aan. Dat is beduidend minder dan klassieke neurale netwerken op dit moment aankunnen, maar wel genoeg voor velerlei toepas­singen van spraak­her­ken­ning en ECG-analyse tot het herkennen van gebaren. De volgende uitdaging is dan ook om hun netwerken op te schalen naar 100.000 of een miljoen neuronen. Dat zal de toepas­sings­mo­ge­lijk­heden nog verder uitbreiden.  Het onder­zoeks­pro­ject van Bohté en zijn collega’s vindt plaats binnen het NWO Perspec­tief-programma ‘Efficient Deep Learning’.

Pin It on Pinterest

Share This