Anthropic keskeytti uuden tekoälymallinsa käytön Yhdysvaltain turvallisuushuolten vuoksi

Anthropic on keskeyttänyt tehokkaaksi kuvaamansa Claude Fable 5 -tekoälymallin käytön vain päiviä sen julkisen julkaisun jälkeen, kun Yhdysvaltain viranomaiset olivat esittäneet malliin liittyviä turvallisuushuolia. Yhtiön mukaan määräys johti siihen, että sen oli poistettava Fable 5 ja Mythos 5 käytöstä asiakkailtaan vaatimusten noudattamiseksi.

Huoli liittyy mallin ohittamiseen

Anthropic kertoi, ettei Yhdysvaltain kansallisen turvallisuuden viranomaiset olleet yhtiön mukaan yksilöineet tarkkoja huolenaiheita. Yhtiö sanoi kuitenkin ymmärtävänsä, että viranomaiset olivat saaneet tietoonsa menetelmän, jolla Fable 5:n rajoituksia voitaisiin kiertää.

Tällaista rajoitusten kiertämistä kutsutaan usein jailbreakingiksi. Sillä tarkoitetaan ohjelmistoon rakennettujen suojamekanismien ohittamista tavalla, joka voi avata pääsyn toimintoihin tai tietoihin, joita järjestelmän on tarkoitus suojata. Anthropic kertoi arvioineensa esityksen kyseisestä tekniikasta ja sen käytöstä pienen määrän ennestään tunnettujen, vähäisiksi kuvattujen haavoittuvuuksien löytämiseen.

Yhtiön mukaan haavoittuvuudet vaikuttivat suhteellisen yksinkertaisilta, ja myös muut julkisesti saatavilla olevat mallit pystyivät sen mukaan löytämään niitä ilman vastaavaa ohitusta. Ennen julkaisua Anthropic oli korostanut ottaneensa käyttöön suojatoimia, joiden tarkoituksena oli estää mallin käyttö kyberhyökkäyksiin.

Julkaisua edelsi rajattu testaus

Claude Fable 5 oli ollut ennen julkista julkaisua rajatussa käytössä huhtikuusta lähtien. Anthropic kertoi antaneensa ennakkopääsyn pienelle joukolle organisaatioita, koska se piti työkalua niin kyvykkäänä, että sen väärinkäyttö tietojärjestelmien hyödyntämiseen tai murtautumiseen voisi olla vaarallista.

Yhtiö oli kuvannut mallia ennen julkaisua poikkeuksellisen tehokkaaksi ja sanonut sen kyvykkyyksien ylittävän sen aiemmin yleisesti saataville tuomat mallit. Osa kriitikoista piti tällaista viestintää liioittelevana markkinointina.

Anthropic kertoi verkkosivuillaan, että sen oli määräyksen vuoksi keskeytettävä ulkomaalaisten pääsy Claude Fable 5:een. Yhtiön mukaan käytännön vaikutus oli kuitenkin se, että Fable 5 ja Mythos 5 piti poistaa käytöstä kaikilta asiakkailta. Anthropic on erikseen mukana oikeuskiistassa Trumpin hallinnon kanssa määräyksestä, joka koskee yhtiön tekoälytyökalujen käyttöä valtion virastoissa.