San Francisco vaatii Applea ja Googlea poistamaan 13 tekoälyn riisumissovellusta

San Franciscon kaupungin lakiasiainjohtaja David Chiu on lähettänyt Applelle ja Googlelle vaatimuskirjeet, joissa yhtiöitä kehotetaan poistamaan sovelluskaupoistaan yhteensä 13 tekoälypohjaista kasvojenvaihto- ja riisumissovellusta. Niillä voi tuottaa oikeista ihmisistä seksuaalisia valekuvia ilman kuvattujen suostumusta.

Kirjeissä vedotaan Kalifornian lakeihin

Kirjeet lähetettiin torstaina. Niissä Chiu vaatii Applea ja Googlea lopettamaan haitallisesta teknologiasta hyötymisen sekä poistamaan sovellukset omista kaupoistaan. Yhtiöitä kehotetaan lisäksi katkaisemaan liikesuhteensa kyseisten sovellusten kehittäjiin.

Vaatimusten mukaan Apple ja Google ovat tukeneet tai edistäneet palveluja, joilla voidaan valmistaa seksuaalisia syväväärennöksiä. Chiu katsoo sovellusten tarjoamisen olevan ristiriidassa Kalifornian lakien kanssa, jotka kieltävät tällaista materiaalia tuottavien palvelujen tukemisen. Kirjeissä yhtiöitä pyydetään lopettamaan myös suostumuksettomien intiimikuvien myynnin ja leviämisen edistäminen.

Tavallisesta kuvasta seksuaalinen väärennös

Kohteena olevat työkalut voivat muuttaa tavallisen valokuvan yksiselitteiseksi seksuaaliseksi kuvaksi. Niillä voidaan poistaa kuvassa olevan henkilön vaatetus, muuttaa hänen piirteitään tai asettaa hänet seksualisoituun asentoon. Sovelluksilla voi myös vaihtaa uhrin kasvot toisen ihmisen alastomaan kehoon.

Työkalujen lähtökohtana voi siis olla kuva todellisesta ihmisestä, joka ei ole antanut suostumustaan muokkaukseen. Kirjeissä lopputuloksia kuvataan tekoälyllä tuotetuiksi suostumuksettomiksi alastonkuviksi ja seksuaalisiksi syväväärennöksiksi. Kuvan kohteen ei tarvitse olla mukana alkuperäisessä seksuaalisessa materiaalissa. Kirjeissä puhutaan nimenomaan kuvista, jotka on tehty ilman niissä esitetyn henkilön lupaa.

Uhreina etenkin naiset ja lapset

Chiu kertoi Wiredille virastonsa olevan täysin järkyttynyt siitä, kuinka yleiseksi riisumisteknologia on tullut. Hänen mukaansa uhrit ovat useimmiten naisia ja lapsia, ja haitallisten työkalujen määrän kasvu on johtanut hyväksikäyttöön hälyttävässä mittakaavassa.

Vaatimuskirjeissä vastuu kohdistetaan sovellusten kehittäjien lisäksi niiden jakelijoihin. Chiun mukaan Apple ja Google eivät saa avustaa tai edistää seksuaalisten syväväärennösten kauppaa eivätkä hyötyä siihen käytettävistä sovelluksista. Siksi kirjeissä vaaditaan sekä 13 sovelluksen poistamista että kaupallisten suhteiden katkaisemista niiden kehittäjiin.