Att AI-modeller på eget initiativ brutit sig ur kontrollerade miljöer för att hacka konkurrenter, visar vilka enorma risker utvecklingen har. Det skriver professor Kenneth Rogoff f…

Att AI-modeller på eget initiativ brutit sig ur kontrollerade miljöer för att hacka konkurrenter, visar vilka enorma risker utvecklingen har. Det skriver professor Kenneth Rogoff från Harvard University. AI-kapplöpningen mellan USA och Kina accelererar i en häpnadsväckande fart. Det är också en kamp mellan två motsatta visioner om hur AI bör utvecklas och användas. Amerikanska företag förlitar sig på sluten och patenterad teknik för att behålla sina konkurrensfördelar. Kina har anammat AI med öppen källkod, vilket gör avancerade modeller tillgängliga för utvecklare över hela världen. När ingen av sidorna är villig att sakta farten ökar risken för katastrofala misslyckanden till följd av kombinationen av mänskliga fel och superintelligent AI. Nyligen visade en säkerhetsöverträdelse som involverade OpenAI och Hugging Face vilka risker som uppstår. Incidenten inträffade medan forskare vid OpenAI utvärderade förmågan hos två banbrytande AI-modeller. För att identifiera svagheter som sofistikerade hackare skulle kunna utnyttja, stängde de tillfälligt av många av modellernas normala skyddsmekanismer. Experimentet utfördes i en strikt kontrollerad miljö - om modellerna hade kunnat nå det öppna internet hade de kunnat orsaka enorm skada. Men modellerna, med avancerade hackingfunktioner, bröt sig på eget initiativ ur den kontrollerade miljön. De infiltrerade Hugging Face, som hyser över två miljoner AI-modeller, hämtade testlösningar ur produktionsdatabasen och gjorde sedan anteckningar för att lättare kunna bryta sig ur en kontrollerad miljö i framtiden. De orsakade ingen allvarlig skada, men händelsen visade hur mänskliga fel kan förstärkas av AI - med potentiellt katastrofala konsekvenser.