Den AI-agent från Open AI som på egen hand hackade en konkurrent hade haft tillgång till internet i flera dagar innan den upptäcktes. Händelsen har fått Open AI:s vd att prata om e…

Artikelns ursprungsadress: https://www.dn.se/varlden/sa-hackade-ai-systemet-ett-foretag-pa-eget-initiativ/ Den AI-agent från Open AI som på egen hand hackade en konkurrent hade haft tillgång till internet i flera dagar innan den upptäcktes. Händelsen har fått Open AI:s vd att prata om en broms i AI-utvecklingen. Nu läggs pusslet: Hur kunde ett AI-system löpa amok som en äkta cyberkriminell? Du vet väl att du kan skapa ett gratiskonto på DN? Som inloggad kan du ta del av flera smarta funktioner. Offret för dataintrånget insåg en sak direkt – det här var ingen mänsklig angripare. Attacken var för snabb. För avancerad. En människa, eller en grupp människor, kunde omöjligt ha utfört den. Istället drog säkerhetsteknikerna slutsatsen att det måste röra sig om någon form av AI-system som orkestrerade cyberattacken. Hugging Face, som var målet för attacken, är ett annorlunda AI-företag. I stället för att bygga helt egna AI-modeller så fungerar den som en plattform där andra kan skapa och köra olika AI-varianter. Ett av deras verktyg kallas Exploitgym, ett slags träningsredskap som låter artificiella intelligenser testa sina hackarförmågor. De ställs inför en mjukvara med en medvetet planterad säkerhetslucka, och sedan är det upp till AI-agenten att lista ut hur den kan bryta sig in och hämta ett bevis för att den har lyckats. Mänskliga hackare har i många år tävlat på samma sätt, det brukar kallas ”hämta flaggan” och är ett populärt inslag på it-säkerhetskonferenser. Nu kämpar AI-robotar på samma sätt. Open AI grundades 2015, då som ett icke vinstdrivande laboratorium, med det uttalade syftet att skapa en artificiell superintelligens. Bland finansiärerna fanns bland annat Teslas vd Elon Musk.