Den senaste AI-modellen, Mythos, har utvecklats av Anthropic och påstås överträffa alla andra hackare i sin förmåga att identifiera säkerhetshål i olika system. Enligt företaget är den så potentiellt farlig att den inte bör göras tillgänglig för allmänheten. Detta väcker frågor om huruvida detta verkligen är en sund varning eller bara en marknadsföringsstrategi.
Mythos har enligt Anthropic redan upptäckt tusentals allvarliga sårbarheter, inklusive i samtliga större operativsystem och webbläsare. Om dessa påståenden stämmer skulle det kunna få katastrofala konsekvenser om obehöriga fick tillgång till teknologin. Det skulle ge kriminella och spioner möjlighet att utnyttja tidigare okända säkerhetshål.
För att hantera dessa risker har Anthropic initierat ”Project Glasswing”, där flera av de mest framstående teknikföretagen, som Google, Microsoft och Apple, får möjligheten att använda Mythos. Syftet är att ”de goda” ska kunna identifiera och åtgärda sårbarheterna innan ”de onda” hinner upptäcka dem.
En av de som får tillgång till Mythos är svensken Daniel Stenberg, skaparen av Curl, en mjukvara som används i över tio miljarder enheter världen över. Han uttrycker viss skepticism inför Anthropics påståenden och anser att det hittills mest varit marknadsföring. Han noterar dock att stora språkmodeller, som Mythos, har blivit allt bättre på att upptäcka sårbarheter.
Stenberg har sett en fyrdubbling av antalet inrapporterade buggar under det senaste året, vilket indikerar att många av dem är resultatet av AI-genererade insikter. Trots detta har han också upplevt en översvämning av rapporter av låg kvalitet, vilket har lett till att han har tvingats sluta betala ut belöningar för tips om allvarliga sårbarheter. Men han ser en förbättring i kvaliteten på rapporterna som kommer in.
Enligt Anthropic har Mythos redan identifierat en sårbarhet i operativsystemet Open BSD som har varit gömd i koden i 27 år. Denna typ av sårbarhet kan möjliggöra attacker på distans, vilket ytterligare understryker vikten av att hantera denna kraftfulla teknik på ett ansvarsfullt sätt.
Det råder ingen tvekan om att det pågår en kapprustning inom AI-driven cybersäkerhet, där både företag och kriminella försöker ligga steget före varandra. Anthropic har fått motta kritik för att deras system inte tillåts användas av USA:s militär, vilket kan tyda på en komplex relation mellan teknik, säkerhet och etik.
