Den senaste AI-modellen, Mythos, från Anthropic har visat sig överträffa alla nuvarande hackare och identifiera säkerhetshål i olika system. Enligt företaget är den så kraftfull att den inte bör vara tillgänglig för allmänheten. I en intervju har Linus Larsson talat med svensken Daniel Stenberg, som fått unik tillgång till detta kontroversiella system.
Mythos beskrivs av Anthropic som en AI-modell med exceptionell kapacitet att upptäcka sårbarheter, vilket kan innebära stora risker för cybersäkerheten. Modellen har redan enligt uppgift funnit tusentals allvarliga säkerhetshål, inklusive i betydelsefulla operativsystem och webbläsare. Om detta stämmer kan det vara katastrofalt att låta vem som helst använda systemet.
För att hantera denna kraftfulla teknik startade Anthropic ”Project Glasswing”, där ledande teknikföretag som Google, Microsoft och Apple ges tillgång till Mythos. Målet är att dessa företag ska kunna identifiera och åtgärda säkerhetshål innan de utnyttjas av illvilliga aktörer. Detta kan ses som både en ansvarsfull hantering av teknik och en effektiv marknadsföringsstrategi för företaget.
En intressant aspekt är varför Open AI, som utvecklar Chat GPT, och Meta, vars chattjänst WhatsApp har blivit utsatt för spionage, inte inkluderades i detta projekt. Om intentionen verkligen är att skydda världen, kan detta väcka frågor om urvalet av deltagare.
Daniel Stenberg, skaparen av Curl, en mjukvara med en stor användarbas, uttrycker skepticism kring Anthropics påståenden. Han noterar att även om AI-modeller har blivit betydligt bättre på att upptäcka säkerhetshål, så är det fortfarande oklart hur effektiv Mythos verkligen är. Han rapporterar att antalet inrapporterade buggar fyrdubblades det senaste året, men kvaliteten på dessa rapporter varierade kraftigt.
Trots att de tidigare rapporterna ofta var av låg kvalitet, har det skett en förbättring. Stenberg använder redan flera AI-verktyg för att analysera kod. Anthropic påstår att deras modell har nått en ny nivå av effektivitet, vilket kvarstår att bekräfta.
Enligt Anthropic har Mythos redan identifierat en säkerhetsbugg i operativsystemet Open BSD, som varit gömd i 27 år. Denna sårbarhet skulle kunna tillåta en angripare att fjärrstyra och krascha en enhet som kör detta system. Det står klart att det pågår en intensiv kapprustning inom AI-driven cybersäkerhet, där både kriminella och techföretag slåss om överhanden.
