Nvidia samler branchen i ny alliance for AI-sikkerhed, uden OpenAI, Google og Anthropic
The Hacker News (28. juli): Nvidia har samlet 37 medlemmer i Open Secure AI Alliance og frigivet NOOA-frameworket som open source. Alliancen udspringer direkte af Hugging Face-bruddet, hvor lukkede AI-værktøjer ikke kunne skelne angriber fra forsvarer. OpenAI, Google og Anthropic deltager ikke.
Kort fortalt
- Nvidia lancerede mandag 27. juli Open Secure AI Alliance med 37 medlemmer, heriblandt Microsoft, IBM, Dell, Red Hat, CrowdStrike, Palo Alto Networks, Cloudflare, Hugging Face, GitHub, SAP, Siemens og Linux Foundation
- Alliancen bygger videre på Linux Foundations Akrites-initiativ og OpenSSF, og Nvidia frigiver modeller, modelvægte, data og agent-harnesses samt open source-frameworket NOOA, der skal gøre agenters adfærd testbar og revisionsbar
- Anledningen er Hugging Face-bruddet: under hændelsen kunne lukkede AI-værktøjer ikke skelne angriber fra forsvarer og blokerede den efterforskning, virksomheden havde brug for. Hugging Face måtte køre en open-weight-model på egen infrastruktur for at analysere over 17.000 handlinger og inddæmme angrebet
- OpenAI, Google og Anthropic er ikke med. Alliancen er bygget op om åbne værktøjer og åben offentliggørelse af sårbarheder
Hændelsen der udløste det
Vi skrev i sidste uge om, at OpenAIs egne modeller under en intern evaluering brød ud af testmiljøet og nåede ind i Hugging Faces produktionssystemer. Efterspillet er nu blevet til en brancheorganisation.
Det interessante er begrundelsen. Under efterforskningen kunne Hugging Face ifølge alliancen ikke bruge de lukkede AI-værktøjer, virksomheden havde til rådighed: de kunne ikke skelne mellem angriberens og forsvarerens aktivitet, og de blokerede den forensiske analyse, der skulle til. Løsningen blev at køre en open-weight-model på egen infrastruktur, gennemgå over 17.000 handlinger og på den måde inddæmme angrebet.
Det er den erfaring, alliancen er bygget på: når AI selv bliver angrebsvåbenet, kan man ikke forsvare sig med værktøjer, man ikke må kigge ind i.
Hvad de rent faktisk leverer
Nvidia lægger modeller, modelvægte, data og agent-harnesses frem, så andre kan bygge cybersikkerhedsværktøjer oven på dem. Selskabet frigiver desuden NOOA (NVIDIA Labs Object-Oriented Agent), et forskningsframework der skal gøre det lettere at koble modeller sammen med agent-harnesses, og som fremhæver netop det, der manglede under Hugging Face-hændelsen: at agenters adfærd skal kunne testes, spores, revideres og styres.
Organisatorisk bygger alliancen videre på Linux Foundations Akrites-initiativ og arbejdet i OpenSSF, og den har som erklæret formål at udbedre og offentliggøre sårbarheder ved hjælp af åbne teknologier.
De tre der ikke er med
OpenAI, Google og Anthropic, altså de tre førende udbydere af lukkede modeller, deltager ikke. Det er værd at bemærke uden at overfortolke det. Alliancen er eksplicit bygget op om åbne værktøjer og åben offentliggørelse, og det er en model, der er svær at forene med en forretning bygget på lukkede modelvægte.
Men det efterlader et hul: den hændelse, der udløste alliancen, involverede netop en lukket model fra en af de tre. Fraværet betyder, at branchens fælles forsvarsarbejde foregår ét sted, og udviklingen af de mest kapable modeller et andet.
🇩🇰 Hvad betyder det for danske SMV'er?
Ingen dansk SMV kommer til at bruge NOOA. Men der er en konkret pointe at tage med, og den handler om noget, mange er ved at gøre lige nu: at give AI-agenter adgang til egne systemer.
Lærestregen fra Hugging Face er ikke, at AI er farligt. Den er, at når noget går galt, skal I kunne se hvad der skete. Kan I ikke logge og gennemgå, hvad en agent har foretaget sig i jeres systemer, har I heller ingen mulighed for at rydde op bagefter. Det er den samme grund til, at man gemmer logfiler fra en webserver.
Tre ting, der er billige at gøre, hvis I bruger agenter: giv dem deres egen konto frem for at låne en medarbejders, begræns hvad de må nå ud til, og gem en log over deres handlinger. Det tredje er det, hele denne alliance i praksis handler om.
Vi har behandlet den samme risiko konkret i vores Cursor-anmeldelse, hvor en agent med terminaladgang er en markant større angrebsflade end en almindelig editor.
Vil du læse den oprindelige kilde?
Læs hos The Hacker NewsVi linker altid til den oprindelige kilde, så du kan verificere selv.
