Australian viranomainen: lapsiin kohdistuva hyväksikäyttömateriaali on rakenteellinen ongelma X-palvelussa

Australian verkkoturvallisuusviranomainen eSafety on varoittanut Elon Muskin omistamaa X-palvelua lapsiin kohdistuvan seksuaalisen hyväksikäyttömateriaalin laajasta leviämisestä alustalla. Viranomaisen mukaan ongelma on rakenteellinen ja materiaalia on X:ssä helpommin saatavilla kuin missään muussa valtavirtaisessa palvelussa.

eSafety lähetti X:lle kirjeen tammikuussa sen jälkeen, kun palvelun tekoälychatbotti Grok oli joutunut skandaaliin seksualisoidun kuvamateriaalin tuottamisesta. Kirjeessä viranomainen viittasi Muskin omaan lupaukseen, jonka mukaan lasten hyväksikäytön torjunta on alustan tärkein prioriteetti.

Grok-tekoälyn kyky tuottaa seksualisoituja kuvia herätti kohun alkuvuodesta. Tapaus nosti esiin sen, miten heikosti tekoälytyökaluja valvotaan ja millaisia suojamekanismeja niihin rakennetaan. X:n moderointi on herättänyt kritiikkiä Muskin ostettua alustan, sillä sisällönvalvonnan resursseja on vähennetty.

Australian eSafety-komissaari on ajanut tiukkaa sääntelyä sosiaalisen median alustoille erityisesti lasten suojelun osalta. Maa asetti viime vuonna 16 vuoden ikärajan sosiaalisen median käytölle.