Det senaste AI-systemet, benämnt Mythos, påstås överträffa världens skickligaste hackare och kan upptäcka säkerhetshål i alla system det analyserar. Enligt Anthropic, företaget bakom denna innovation, är systemet så pass farligt att det inte får användas av allmänheten. Linus Larsson från DN rapporterar om en svensk, Daniel Stenberg, som ska få unik tillgång till denna kontroversiella teknologi.
Mythos sägs ha uppnått en nivå av programmeringsförmåga som gör att den överträffar nästan alla människors kapacitet att identifiera sårbarheter i mjukvara. Anthropic hävdar att modellen redan har identifierat tusentals allvarliga sårbarheter, inklusive i samtliga stora operativsystem och webbläsare. Om dessa påståenden stämmer, kan det vara katastrofalt att låta vem som helst använda systemet, då brottsliga hackare skulle kunna utnyttja dessa säkerhetshål.
I syfte att hantera de potentiella riskerna har Anthropic initierat ”Project Glasswing”. Detta projekt ger tillgång till Mythos för flera av de mest inflytelserika teknikföretagen, däribland Google, Microsoft och Apple. Målet är att låta de ”goda krafterna” identifiera och åtgärda sårbarheterna innan de ”onda krafterna” får möjlighet att utnyttja dem. Det är en ansvarsfull strategi för att hantera en kraftfull teknologi, men också en potentiell PR-strategi för Anthropic.
En intressant aspekt i detta sammanhang är varför Open AI, som utvecklar Chat GPT, och Meta, vars chattprogram Whatsapp har drabbats av spionage, inte har bjudits in till projektet. Om syftet verkligen är att rädda världen, väcker detta frågor kring företagets intentioner.
Daniel Stenberg, skaparen av Curl – en av världens mest använda mjukvarukomponenter – är en av dem som ska få tillgång till Mythos. Curl finns integrerat i över tio miljarder enheter och en allvarlig sårbarhet i detta program kan få stora konsekvenser. Stenberg är dock försiktig i sina uttalanden och anser att det hittills bara är snacket som går. Han påpekar att även om stora språkmodeller har blivit bättre på att identifiera sårbarheter, har kvaliteten på rapporter varierat kraftigt.
Förra året fyrdubblades antalet inrapporterade buggar, och i år har de fyrdubblats igen. Stenberg noterar dock att många av dessa rapporter varit av låg kvalitet, vilket har lett till att han tvingats sluta belöna tips om allvarliga sårbarheter. Trots detta har kvaliteten på AI-genererade rapporter förbättrats avsevärt.
Anthropic har lämnat några exempel på sårbarheter som Mythos har identifierat, inklusive en säkerhetsbugg i operativsystemet Open BSD som hade legat gömd i koden i 27 år. Denna sårbarhet skulle möjliggöra för en angripare att krascha en maskin som kör detta operativsystem på distans.
Det råder ingen tvekan om att det pågår en kapprustning inom AI-driven cybersäkerhet, där brottslingar, spioner och teknikföretag tävlar om att utveckla de mest avancerade systemen. Anthropic befinner sig i centrum av denna utveckling, och dess kommande steg kommer att vara avgörande för hur denna teknologi kommer att påverka världen.
