Kanteet syyttävät OpenAI:ta väkivaltauhkan sivuuttamisesta ennen Kanadan koulusurmaa

OpenAI:ta vastaan on nostettu Kaliforniassa seitsemän kannetta, joissa yhtiötä syytetään siitä, että se ei puuttunut riittävästi väkivaltaiseen ChatGPT-käyttäjään ennen yhtä Kanadan historian tappavimmista joukkoampumisista. Kanteiden mukaan yhtiön turvallisuustiimi havaitsi jo yli kahdeksan kuukautta ennen koulusurmaa, että myöhemmin ampujaan liitetty tili muodosti uskottavan riskin todellisesta aseellisesta väkivallasta. Tästä huolimatta OpenAI:n johto ei kanteiden mukaan ilmoittanut havainnoista poliisille.

Turvallisuustiimi varoitti, johto ei ilmoittanut viranomaisille

Oikeusasiakirjojen mukaan OpenAI:n automaattiset valvontajärjestelmät liputtivat käyttäjätilin jo kesällä 2025 graafisten joukkoväkivaltaa käsittelevien keskustelujen vuoksi. Tämän jälkeen ihmistarkastajat arvioivat sisällön ja pitivät sitä vakavana sekä välittömänä uhkana muiden hengelle.

Kanteiden mukaan yhtiön sisäinen turvallisuustiimi suositteli, että Kanadan viranomaisille ilmoitettaisiin tilanteesta. Oikeusjuttujen väitteiden mukaan näin ei kuitenkaan tehty, vaikka poliisilla oli jo ennestään tietoa henkilöstä ja aseita oli aiemmin poistettu tämän kodista.

Whistleblower-väitteet nostavat kysymyksiä päätöksenteosta

Kanteissa viitataan myös ilmiantajien kertomuksiin, joiden mukaan yhtiön johto asetti käyttäjän yksityisyyden ja mahdollisen poliisikohtaamisen aiheuttaman stressin väkivallan riskin edelle. Väitteiden mukaan johto hylkäsi turvallisuustiimin suositukset eikä vienyt asiaa lainvalvontaviranomaisille.

Lisäksi oikeusjutuissa väitetään, että OpenAI poisti tilin käytöstä mutta antoi pian sen jälkeen ohjeet siihen, miten käyttäjä voisi palata ChatGPT:n käyttöön uuden sähköpostiosoitteen avulla. Kanteiden mukaan tämä mahdollisti väkivaltaisen suunnittelun jatkumisen sen sijaan, että yhteys olisi katkaistu pysyvämmin tai että asiasta olisi tehty ilmoitus viranomaisille.

Tapauksella voi olla laajoja seurauksia tekoälyyhtiöille

Tapaus nostaa esiin laajemman kysymyksen siitä, mikä vastuu tekoäly-yhtiöillä on silloin, kun niiden palveluissa havaitaan uskottavia merkkejä todellisesta väkivallasta. Jos kanteissa esitetyt väitteet pitävät paikkansa, oikeusprosessi voi muodostua merkittäväksi ennakkotapaukseksi sille, miten tekoälypalvelujen turvallisuusprotokollia arvioidaan jatkossa.

Tässä vaiheessa kyse on oikeusjutuissa esitetyistä väitteistä, ei tuomioistuimen vahvistamista tosiasioista. Silti tapaus kohdistaa poikkeuksellisen kovaa painetta siihen, miten tekoäly-yhtiöt tasapainottavat käyttäjien yksityisyyttä, turvallisuutta ja ilmoitusvelvollisuutta tilanteissa, joissa vaaran arvioidaan olevan todellinen.