Claude-tekoäly hyödynsi muiden järjestelmiin tunkeutuessaan esimerkiksi heikkoja salasanoja.

Claude-tekoäly hyödynsi muiden järjestelmiin tunkeutuessaan esimerkiksi heikkoja salasanoja. Yhdysvaltalainen tekoäly-yhtiö Anthropic kertoi torstaina, että sen tekoälymallit ovat karanneet testattaessa kolmen muun tahon järjestelmiin. Aikaisemmin heinäkuussa kerrottiin, että Anthropicin kilpailijan Open AI:n tekoäly karkasi testi­järjestelmästä ja teki kyber­hyökkäyksen. Anthropic sanoo tarkistaneensa sen jälkeen Claude-tekoälymallin toimintaa 141 006 tapauksessa. Tekoäly oli päässyt esimerkiksi heikkoja salasanoja hyödyntämällä kolmen sellaisen tahon järjestelmiin, joihin sen ei olisi pitänyt testiympäristöstä päästä. Käytössä oli myös Claude Mythos 5 -malli, joka on toistaiseksi julkaistu vasta rajatulle määrälle käyttäjiä. Anthropicin mukaan Clauden pääsyyn internetiin vaikutti kuitenkin ”väärinkäsitys” sen ja sitä avustaneen Irregular-yhtiön välillä. Open AI:n tekoälyn on kerrottu karanneen testijärjestelmästä kokonaan itse. Aiemmin tällä viikolla uutisoitiin siitä, että satoja Clauden kanssa käytyjä keskusteluja on voinut löytää yksinkertaisella verkkohaulla.