Den senaste AI-modellen, som kallas Mythos, har potentialen att revolutionera cybersäkerhet genom att överträffa mänskliga hackare och identifiera sårbarheter i mjukvara. Enligt företaget Anthropic är modellen så kraftfull att den inte bör vara tillgänglig för allmänheten, för att förhindra att kriminella aktörer utnyttjar dess förmågor.
Mythos har redan identifierat tusentals allvarliga sårbarheter, inklusive i stora operativsystem och webbläsare. Om detta stämmer, skulle det kunna leda till allvarliga konsekvenser om systemet hamnar i fel händer. För att hantera denna risk har Anthropic inrättat ett projekt kallat ”Project Glasswing”, där utvalda teknikföretag, inklusive Google, Microsoft och Apple, ges tillgång till modellen för att åtgärda säkerhetsbrister innan de kan utnyttjas av illvilliga aktörer.
Daniel Stenberg, skaparen av Curl, en av världens mest använda mjukvaror, kommer att få tillgång till Mythos. Curl är en komponent som integreras i många program och finns i över tio miljarder enheter. En sårbarhet i Curl kan därför få katastrofala följder. Stenberg är dock skeptisk och menar att mycket av det som presenteras just nu verkar vara mer av en marknadsföringsstrategi. Han nämner att antalet inrapporterade buggar fyrdubblades under det senaste året, vilket kan tyda på att AI har blivit bättre på att identifiera svagheter i koden.
Trots den ökade kvaliteten på buggrapporter, har Stenberg även sett en ökning av lågkvalitativa rapporter, vilket har lett honom till att sluta betala ut belöningar för tips om säkerhetshål. Det är en balansgång mellan att utnyttja AI:s kapacitet och att säkerställa att rapporterna är användbara. Anthropic har presenterat konkreta exempel på vad Mythos har upptäckt, inklusive en sårbarhet i operativsystemet Open BSD, som hade varit gömd i koden i 27 år.
Det finns dock frågor kring Anthropic och dess beslut att utesluta vissa företag från ”Project Glasswing”, som Open AI och Meta. Om syftet verkligen är att skydda världen, varför inkluderas inte fler aktörer? Det råder ingen tvekan om att utvecklingen av AI-drivna säkerhetssystem kommer att intensifieras, och kampen mellan brottslingar, spioner och teknikföretag är långt ifrån över.
