Enkele van de grootste namen in kunstmatige intelligentie (AI), waaronder Google, OpenAI, Microsoft, Amazon, Nvidia en Intel, hebben de oprichting aangekondigd van de Coalition for Secure AI (CoSAI) bekendgemaakt. Deze nieuwe coalitie heeft als doel om een gefragmenteerd landschap van AI-beveiliging aan te pakken door middel van open source-methodologieën, frameworks en tools.
De impact die CoSAI zal hebben op de AI-industrie is nog onzeker, maar zorgen over het lekken van vertrouwelijke informatie en geautomatiseerde discriminatie zijn enkele voorbeelden van de vragen die spelen rondom de beveiliging, privacy en veiligheid van generatieve AI-technologie.
Andere bedrijven die zich bij CoSAI aansluiten, zijn onder meer IBM, PayPal, Cisco en Anthropic. CoSAI zal opereren binnen de Organization for the Advancement of Structured Information Standards (OASIS), een non-profit organisatie die de ontwikkeling van open standaarden bevordert. CoSAI zal zich in eerste instantie richten op drie doelen: het ontwikkelen van best practices voor AI-beveiliging, het aanpakken van uitdagingen binnen AI, en het beveiligen van AI-toepassingen.
Heather Adkins, vice president van beveiliging bij Google, zegt in een verklaring: “We maken al vele jaren gebruik van AI en zien het voortdurende potentieel voor partijen die zich willen verdedigen, maar erkennen ook de kansen voor tegenstanders. CoSAI zal organisaties, groot en klein, helpen om AI op een veilige en verantwoorde manier te integreren – waardoor ze de voordelen kunnen benutten en de risico’s kunnen beperken.”
De oprichting van CoSAI komt op een cruciaal moment, nu AI-technologieën zich in een razendsnel tempo ontwikkelen en steeds meer geïntegreerd worden in verschillende sectoren. Het bundelen van krachten door deze toonaangevende bedrijven benadrukt de dringende noodzaak om gezamenlijk te werken aan oplossingen voor de complexe uitdagingen die gepaard gaan met AI-beveiliging.
