Det senaste AI-systemet från företaget Anthropic har blivit föremål för stor uppmärksamhet med anledning av dess påstådda förmåga att överträffa alla nuvarande hackare och identifiera säkerhetshål i olika system. Företaget beskriver systemet, kallat Mythos, som så farligt att det inte kan göras tillgängligt för allmänheten.
Mythos sägs ha en extraordinär kapacitet att upptäcka sårbarheter, vilket skulle kunna vara en katastrof om det hamnar i fel händer. Anthropic meddelar att systemet redan har identifierat tusentals allvarliga säkerhetsbrister, inklusive sådana som påverkar alla större operativsystem och webbläsare. Detta väcker frågor om hur dessa sårbarheter kan utnyttjas av kriminella aktörer och spioner.
I syfte att förhindra detta har Anthropic initierat ”Project Glasswing”, där flera techjättar, bland dem Google, Microsoft och Apple, får tillgång till systemet. Tanken är att de ”goda” aktörerna ska kunna identifiera och åtgärda säkerhetshålen innan de kan utnyttjas av de ”onda”. Det finns emellertid en del skepsis kring detta initiativ, som kan ses som både ett ansvarsfullt steg och en marknadsföringsstrategi.
Frågan som kvarstår är varför Open AI, som utvecklar Chat GPT och är en av Anthropics främsta konkurrenter, inte är en del av projektet. Det finns också anledning att undra över varför Meta, vars plattform WhatsApp har utsatts för spionage, inte bjudits in.
En av de som får tillgång till Mythos är svensken Daniel Stenberg, skaparen av Curl, en av världens mest använda mjukvaror. Curl används i en mängd olika enheter och ett allvarligt fel i denna programvara kan få allvarliga konsekvenser. Stenberg uttrycker viss skepticism mot Anthropics påståenden och anser att det hittills mest handlar om marknadsföring.
Trots att han har sett en ökning av rapporter om säkerhetsbrister, menar han att kvaliteten har varierat kraftigt. Många rapporter har kommit från personer utan tillräcklig kunskap, vilket har lett till en överväldigande mängd oanvändbara tips. Det har dock skett en förbättring i kvaliteten på de rapporter som kommer in, och Stenberg använder redan flera AI-verktyg för att analysera kod.
Det är oklart om Anthropic verkligen har uppnått en ny nivå av effektivitet med Mythos, men företaget har presenterat exempel på sårbarheter som systemet har identifierat, inklusive en bugg som legat gömd i Open BSD i 27 år. Det är tydligt att det råder en intensiv kapprustning inom AI och cybersäkerhet mellan techbolag, brottslingar och spioner, vilket gör frågorna kring ansvar och säkerhet allt mer relevanta.
