Den senaste AI-modellen från Anthropic utklassar världens hackare och upptäcker säkerhetshål i alla system den analyserar. Företaget varnar för att modellen är så farlig att den inte kan släppas fritt till allmänheten. Detta påstående väcker frågor om huruvida det handlar om verklig säkerhet eller bara marknadsföring.
AI-modellen, som kallas Mythos, ska ha nått en nivå av programmeringsförmåga som överträffar de flesta människors kapacitet att identifiera mjukvarusårbarheter. Enligt Anthropic har Mythos redan upptäckt tusentals allvarliga säkerhetshål, inklusive sårbarheter i alla större operativsystem och webbläsare. Om dessa påståenden stämmer, skulle det vara en riskabel åtgärd att låta vem som helst använda systemet.
Som en respons på detta har Anthropic initierat ”Project Glasswing”, där ett antal ledande teknikföretag, inklusive Google, Microsoft och Apple, ges tillgång till systemet. Syftet är att de ”goda” aktörerna ska kunna identifiera och åtgärda säkerhetshålen innan de ”onda” aktörerna hinner utnyttja dem. Detta kan ses som ett ansvarsfullt sätt att hantera en kraftfull teknik, men det kan också tolkas som ett smart PR-trick.
En intressant aspekt är att Open AI, som är en av Anthropics främsta konkurrenter, inte bjudits in till projektet, vilket väcker frågor om intentionerna bakom detta initiativ. En av de som kommer att få tillgång till Mythos är svensken Daniel Stenberg, skaparen av Curl, som är en av världens mest använda mjukvaror. Curl används i över tio miljarder enheter, vilket innebär att ett allvarligt säkerhetshål kan få katastrofala följder.
Stenberg är försiktig i sina uttalanden och beskriver Anthropics påståenden som för tidiga. Han påpekar att stora språkmodeller har blivit allt bättre på att identifiera säkerhetshål, och att antalet inrapporterade buggar fyrdubblades förra året. Trots detta har många av rapporterna varit av låg kvalitet. Stenberg fick till och med sluta betala ut belöningar för tips på allvarliga sårbarheter då många rapporter kom från personer utan tillräcklig kunskap.
Trots de initialt svaga rapporterna har kvaliteten förbättrats avsevärt. Stenberg använder redan flera verktyg för att analysera kod, vilket han anser är en metod som överträffar traditionella mänskliga analyser. Anthropic har också presenterat exempel på sårbarheter som Mythos har identifierat, inklusive en som legat gömd i operativsystemet Open BSD i 27 år, vilket visar på modellens potentiella kapacitet.
Det är oklart om Anthropic medvetet skapar hype kring sitt projekt eller om det finns en djupare agenda, särskilt med tanke på att deras teknik nyligen uteslöts från användning inom USA:s militär. Den pågående kapprustningen inom AI och cybersäkerhet mellan brottslingar, spioner och teknikföretag visar på den komplexa dynamik som präglar dagens digitala landskap.
