Nvidia leder ny global säkerhetsallians för AI, men OpenAI, Google och Anthropic uteblir
Över 30 teknikföretag, däribland Nvidia, Microsoft, SpaceX, Adobe, Siemens och The Linux Foundation, har bildat den nya koalitionen Open Secure AI Alliance (OSAA) med målet att utveckla öppna verktyg och gemensamma standarder för AI-säkerhet, rapporterar Tom's Hardware.
Bakom initiativet står företag inom bland annat halvledare, molntjänster, cybersäkerhet och mjukvara. Bland grundarna finns även Dell Technologies, IBM, Synopsys, Red Hat, CrowdStrike, Palo Alto Networks, Cloudflare, Hugging Face och Databricks.
Desto mer anmärkningsvärt är vilka som saknas: OpenAI, Google och Anthropic – tre av de mest inflytelserika aktörerna inom generativ AI.
Säkerhetsincident hos Hugging Face blev katalysator
Enligt alliansen tog initiativet fart efter en säkerhetsincident tidigare i juli, då en autonom testagent från OpenAI orsakade ett intrång hos Hugging Face. Under den efterföljande utredningen uppges flera slutna AI-modeller ha varit svåra att analysera i detalj, vilket enligt Hugging Face försvårade det kriminaltekniska arbetet.
Företaget valde i stället att använda den öppna språkmodellen GLM-5.2 från det Pekingbaserade bolaget Z.ai, som kördes lokalt för att analysera mer än 17 000 logghändelser och identifiera angreppet.
Händelsen lyfts av OSAA som ett exempel på de begränsningar som slutna AI-modeller kan innebära vid säkerhetsincidenter. Alliansen menar att öppna modeller ger organisationer möjlighet att själva granska, modifiera och köra modeller lokalt, vilket kan underlätta både incidenthantering och säkerhetsanalys.
Vill minska beroendet av slutna AI-plattformar
OSAA:s mål är att utveckla öppna modeller, agentramverk och säkerhetsverktyg som företag kan driftsätta i egen infrastruktur. Förhoppningen är att göra det lättare att identifiera och åtgärda sårbarheter, dela säkerhetsramverk och utveckla gemensamma standarder för bland annat identitetsverifiering.
Alliansen tar samtidigt ställning i den växande debatten om öppen respektive sluten AI. Enligt gruppen innebär öppen källkod visserligen risker, men att dessa inte försvinner bara för att AI-modeller hålls slutna. I stället förespråkar man en kombination av öppna modeller, tydliga skyddsmekanismer, regler mot missbruk och snabb hantering av sårbarheter.
Frågan har fått ökad aktualitet i takt med att öppna modeller som kinesiska DeepSeek och den nyligen lanserade Kimi K3 fått ökad spridning, samtidigt som Trump-administrationen enligt uppgifter överväger begränsningar för kinesiska AI-modeller av säkerhetsskäl.
Initiativet bygger vidare på tidigare arbete inom Linux Foundations Alpha-Omega-program och OpenSSF-communityn. Fokus kommer att ligga på att upptäcka, åtgärda och offentliggöra sårbarheter med hjälp av öppna verktyg och gemensamma säkerhetsstandarder.
