Met steun van de Bundesagentur für Sprunginnovationen (SPRIND) vernieuwt de Duitse startup Katulu de Europese AI-infrastructuur. Bedrijven krijgen hierdoor veel vrijheid over de locatie van hun data en rekenkracht voor AI. Ze zijn niet langer afhankelijk van centrale data-opslagplaatsen en dure high-performance clusters. Met Hypha laat Katulu zien hoe bestaande middelen slimmer kunnen worden ingezet voor AI, waardoor grote AI-systemen toegankelijker en goedkoper worden voor meer bedrijven.
Katulu werd gekozen als een van de zeven innovatieve teams voor de SPRIND Challenge voor composite learning, een initiatief van dit Duitse agentschap. Deze ‘challenge’ heeft als doel een nieuwe benadering voor gedecentraliseerde AI, ook wel composite learning (zie verder) genoemd, te faciliteren en zo bedrijven toegang te verschaffen tot hoogwaardige AI-technologie.
Met Hypha biedt Katulu bedrijven volledige flexibiliteit over de locatie van hun data en rekenbronnen. Het team van Katulu ontwikkelt hiervoor een AI-infrastructuur die hardwarebeperkingen voor training en inferentie bij machine learning overwint. In plaats van te vertrouwen op gecentraliseerde high-performance clusters, verdeelt Hypha AI-workloads dynamisch over beschikbare rekenbronnen – of dat nu in de cloud, on-premise of in de edge is. Door middel van wat genoemd wordt ‘hiërarchische parallellisatie’ met minimale communicatiekosten kan Hypha flexibel schalen over uiteenlopende hardware- en databronnen heen. Hiermee toont Katulu een efficiëntere manier om bestaande middelen voor AI te gebruiken, waardoor AI op grote schaal toegankelijker wordt voor meer bedrijven tegen lagere kosten.
Deze SPRIND Challenge is volgens medeoprichter en CEO van Katulu Michael Kühne-Schlinkert een cruciale stap voor Europa om zijn wereldwijde concurrentiekracht in AI te behouden en verder uit te breiden. Door de afhankelijkheid van enorme, gecentraliseerde AI-infrastructuren te verminderen, zal Hypha Europese bedrijven in staat stellen geavanceerde AI-modellen te ontwikkelen en te beheren, terwijl ze de volledige controle over hun data en rekenbronnen behouden. Om zoveel mogelijk bedrijven toegang te verschaffen, zal Hypha beschikbaar zijn als een open source-framework voor composite learning. Daarnaast zal het als onderdeel van de federated AI-platform van Katulu met aanvullende enterprise-functies worden aangeboden om de AI-adoptie in Europa te versnellen.
Kühne-Schlinkert benadrukt: “De toekomst van AI ligt niet in het bouwen van grotere datacenters, maar in het slimmer gebruiken van de rekenkracht en data die we al hebben. Hypha zal deze toekomst werkelijkheid maken.”
Hypha is ontworpen om een van de grootste uitdagingen op het gebied van AI op te lossen: het efficiënt trainen en uitvoeren van AI-modellen in heterogene omgevingen met verschillende hardware en data. Geïnspireerd door schimmelnetwerken in de natuur, waarbij de rekenkracht ongehinderd naar waar het nodig is stroomt, maakt Hypha het voor bedrijven mogelijk om:
- Rekenkracht flexibel te gebruiken en te schalen over verschillende hardwareplatformen en cloud providers heen.
- Heterogene data uit verdeelde bronnen efficiënt in AI-modellen te integreren en de gegevensverwerking te optimaliseren.
- Naadloos te schalen met AI-training en -inferentie, terwijl privacy en datasoevereiniteit worden gewaarborgd.
- Grootschalige AI te integreren zonder gevoelige informatie te delen met externe cloud-omgevingen.
- AI-mogelijkheden uit te breiden zonder investeringen in aanvullende infrastructuur.
Het team van Katulu heeft een gepatenteerde aanpak ontwikkeld om federated machine learning toe te passen in reële scenario’s met heterogene gegevens en omgevingen. Door het ontwikkelen van privacyvriendelijke AI-oplossingen helpt Katulu bedrijven om AI te schalen en tegelijkertijd de volledige controle over hun gegevens te behouden.
Composite learning combineert gedistribueerd, gedecentraliseerd en gefedereerd leren van AI-modellen. Het biedt daarmee een nieuwe aanpak: het trainen van modellen over verschillende systemen heen zonder dat gecentraliseerde datacenters nodig zijn. Met deze methode kunnen meer bedrijven samenwerken en nieuwe modellen veilig trainen. Geavanceerde AI kan zo toegankelijker worden voor meer organisaties en voor een verscheidenheid aan toepassingsgebieden.
