Den senaste AI-modellen, känd som Mythos, har fått uppmärksamhet för sin förmåga att överträffa alla nuvarande hackare och identifiera sårbarheter i olika system. Enligt det AI-fokuserade företaget Anthropic är modellen så kraftfull att den inte kan göras tillgänglig för allmänheten. Frågan som uppstår är om detta är en överdriven varning eller en legitim oro.
Enligt Anthropic har Mythos uppnått en nivå av programmeringskompetens som överträffar de flesta människors förmåga att upptäcka sårbarheter i mjukvara. De hävdar att modellen redan har identifierat tusentals allvarliga sårbarheter, inklusive i alla stora operativsystem och webbläsare. Om dessa påståenden stämmer, skulle det kunna leda till farliga situationer om obehöriga skulle få tillgång till systemet.
För att hantera dessa risker har Anthropic inlett ”Project Glasswing”, där flera ledande teknikföretag, såsom Google, Microsoft och Apple, får möjlighet att använda teknologin. Syftet är att säkerställa att dessa företag kan identifiera och åtgärda sårbarheterna innan de utnyttjas av illvilliga aktörer.
En av de som får tillgång till Mythos är svensken Daniel Stenberg, skaparen av Curl, en mjukvara som används i miljarder enheter världen över. Stenberg uttrycker viss skepsis mot Anthropics påståenden och anser att det hittills mest handlar om marknadsföring. Han noterar dock att stora språkmodeller har blivit bättre på att upptäcka sårbarheter, vilket syns i det ökande antalet inrapporterade buggar.
Trots det ökade antalet rapporter om sårbarheter har Stenberg också stött på problem med kvaliteten. Många inrapporterade buggar har visat sig vara av dålig kvalitet, ofta inlämnade av personer utan adekvat kunskap. Han har därför tvingats sluta belöna rapporter om sårbarheter. Men på senare tid har kvaliteten på rapporterna förbättrats, vilket gör att han nu använder flera sådana AI-verktyg.
Det finns en möjlighet att Anthropic använder hajp kring Mythos för att skapa intresse eller kanske som en protest mot den amerikanska regeringen, som nyligen beslutade att utestänga deras AI-system från Pentagon. Den pågående kapprustningen inom AI-driven cybersäkerhet är uppenbar, med en ständig kamp mellan brottslingar, spioner och teknikföretag.
