De Open Secure AI Alliance (OSAA) heeft een werkgroep opgericht die richtlijnen uitwerkt voor de beveiliging van kunstmatige intelligentie. De groep heet Shared AI Findings Exchange, afgekort SAFE, en heeft de eerste voorstellen ter openbare bespreking ingediend.
De Linux Foundation beheert de voorstellen. Ze zijn opgesteld tijdens de Black Hat-conferentie in Las Vegas, een grote bijeenkomst voor cybersecurityspecialisten.
Meldingen en gezamenlijke analyse
De eerste richtlijnen gaan onder meer over het vertrouwelijk melden van cyberincidenten rond AI, het waarschuwen van betrokken partijen en het achteraf onderzoeken van incidenten. Daarbij moet de analyse niet zijn gericht op het aanwijzen van schuldigen, maar op lessen die andere organisaties kunnen gebruiken.
De alliantie wil daarnaast open source hulpmiddelen van deelnemende bedrijven verzamelen en ordenen. Die technologie kan uiteindelijk worden ingezet om AI-agents binnen organisaties beter te beveiligen en aanvallen door kwaadwillende AI-systemen af te weren.
Nvidia draagt onder meer open modellen en Garak bij, een open source scanner voor kwetsbaarheden in grote taalmodellen. Okta werkt aan technologie voor de identiteit van AI-agents en Red Hat aan regels voor het beheer ervan. Amazon heeft de tool Strands Agents voor het bouwen van agents en de autorisatietaal Cedar ingebracht.
Grote bedrijven aangesloten
De OSAA heeft inmiddels meer dan 120 aangesloten organisaties. Adobe, BlackRock, Cisco, Intel, Microsoft en Visa behoren tot de deelnemers. Hugging Face is eveneens lid.
OpenAI, Google en Anthropic maken vooralsnog geen deel uit van de alliantie. OpenAI en Google ondertekenden wel een eerdere open brief die opriep tot steun voor open source AI in de Verenigde Staten. Die brief, die door Nvidia werd aangejaagd, kreeg de steun van meer dan 200 technologiebedrijven.
De alliantie ontstond nadat in de Verenigde Staten onrust was ontstaan over mogelijke beperkingen voor Chinese AI-modellen waarvan de modelgewichten openbaar zijn. De aangesloten bedrijven zetten in op een open ecosysteem voor AI en willen beveiligingstechnologie gezamenlijk ontwikkelen en beschikbaar maken.
