Anthropic aikoo vesileimata myös Claudella muokatut ja käännetyt tekstit

Anthropic aikoo lisätä vesileiman kaikkeen Clauden käsittelemään tekstiin silloin, kun tekniikka sitä tukee. Merkintä voi koskea paitsi kokonaan tekoälyn tuottamaa sisältöä myös käyttäjän kirjoittamaa tekstiä, jota Claude on vain muokannut, oikolukenut tai kääntänyt. Yhtiö perustelee järjestelmää EU:n tekoälysääntelyn läpinäkyvyysvaatimuksilla.

Merkintä ulottuu myös kevyeen muokkaukseen

Anthropic kertoi perjantaina julkaisemassaan kirjoituksessa pyrkivänsä selventämään, miten vesileima toimii, voiko sen häivyttää muokkaamalla ja miten järjestely vaikuttaa ohjelmakoodiin. Julkisuuteen annetut tiedot kuvaavat kuitenkin ennen kaikkea merkinnän laajuutta ja rajoituksia, eivät vielä sen käytännössä testattavaa tunnistusvarmuutta.

Mallitasolla lisättävä vesileima ei pysty erottamaan, kirjoittiko Claude tekstin kokonaan vai korjasiko se vain pilkun. Siksi merkintä voidaan liittää myös aineistoon, jossa tekoälyn rooli on ollut avustava. Sama koskee käännöksiä: Claudella käännetty teksti merkitään, vaikka alkuperäinen sisältö olisi käyttäjän laatima.

Toteutus on näin laajempi kuin EU:n ohjeistuksen vähimmäisvaatimus. Merkintää ei ohjeistuksen mukaan edellytetä tavallisessa avustavassa muokkauksessa, kuten kieliopin korjaamisessa, eikä silloin, kun järjestelmä ei muuta käyttäjän tekstiä tai sen merkitystä olennaisesti. Claudeen rakennettu ratkaisu ei silti pysty tekemään tällaista tapauskohtaista erottelua.

Havaitsemista ei voi vielä arvioida

Vesileiman todellista kattavuutta ei voida vielä riippumattomasti arvioida, koska Anthropic ei ole julkaissut tunnistustyökalua testattavaksi. Yhtiö on ilmoittanut aikovansa myöhemmin kertoa, miten merkintöjä voidaan havaita. Vasta silloin voidaan selvittää, kuinka luotettavasti järjestelmä tunnistaa eri tavoin käsiteltyä tekstiä.

Tunnistamisessa on jo tiedossa rajoja. Jos Claude on vain oikolukenut tai muokannut tekstiä kevyesti, merkintä voi jäädä liian heikoksi havaittavaksi. Sama voi tapahtua hyvin lyhyessä tekstissä. Vesileima ei siis yksin osoita, että Claude olisi kirjoittanut sisällön, vaan korkeintaan sen, että palvelu on todennäköisesti osallistunut tekstin käsittelyyn jossakin vaiheessa.

Käyttäjille keskeinen muutos on, että myös pieneltä vaikuttava avustaminen voi lisätä tekstiin vesileiman. Järjestelmän vaikutukset selviävät tarkemmin vasta, kun tunnistusmenetelmä ja sen toimivuus ovat ulkopuolisten arvioitavissa.