OpenAI haastettu oikeuteen 19-vuotiaan kuoleman jälkeen

Yhdysvalloissa OpenAI on joutunut uuden kuolemantuottamukseen liittyvän kanteen kohteeksi sen jälkeen, kun 19-vuotiaan Sam Nelsonin vanhemmat väittävät ChatGPT:n ohjanneen heidän poikaansa käyttämään hengenvaarallista kratomia ja Xanaxia sisältänyttä yhdistelmää. Kanteen mukaan Nelson oli käyttänyt ChatGPT:tä jo vuosia tiedonhaun välineenä ja luotti siihen poikkeuksellisen vahvasti.

Perhe syyttää mallia vaarallisista neuvoista

Nelsonin vanhemmat Leila Turner-Scott ja Angus Scott katsovat kanteessaan, että heidän poikansa kuolema oli ennakoitavissa ja estettävissä. Perheen mukaan ChatGPT toimi käytännössä välineenä, jonka avulla Nelson pyrki kokeilemaan huumeita ”turvallisesti”.

Kanteessa kuvataan, että Nelson piti ChatGPT:tä auktoriteettina, koska hän uskoi sen pääsevän käsiksi laajaan verkkotietoon. Perheen mukaan tämä luottamus oli kohtalokasta. Nelsonin kuolemaa kuvataan vahingossa tapahtuneeksi yliannostukseksi, ja kanteessa väitetään, että ChatGPT:n silloinen 4o-malli antoi neuvoja, jotka aiemmat suojaukset olisivat estäneet.

Perhe väittää OpenAI:n suunnitelleen palvelun tavalla, joka mahdollisti sen muuttumisen ”laittomien huumeiden valmentajaksi”. Kanteessa ei pelkästään haeta vastuuta yksittäisestä tapauksesta, vaan siinä myös kyseenalaistetaan, riittääkö ongelmalliseksi väitetyn mallin poistaminen käytöstä.

OpenAI vetoaa parannettuihin suojauksiin

OpenAI ei lähdetietojen mukaan hyväksy väitettä, että ChatGPT olisi vastuussa Nelsonin kuolemasta. Yhtiön edustaja Drew Pusateri kuvasi tapausta sydäntäsärkeväksi ja kertoi ajatusten olevan perheen luona. Samalla hän korosti, että kanteessa mainittu malli ei ole enää käytössä.

Pusaterin mukaan ChatGPT ei ole lääketieteellisen tai mielenterveyden hoidon korvike. Hän sanoi yhtiön vahvistaneen järjestelmän toimintaa herkissä ja akuuteissa tilanteissa mielenterveysasiantuntijoiden avulla. OpenAI:n mukaan nykyiset suojaukset on suunniteltu tunnistamaan hätätilanteita, käsittelemään haitallisia pyyntöjä turvallisemmin ja ohjaamaan käyttäjiä todellisen avun piiriin.

Perhe pitää tätä riittämättömänä. Kanteessa väitetään, että vaikka ChatGPT ilmaisi joitakin huolia korkeista annoksista, huomiot muistuttivat enemmän mahdollistajan kuin läheisen tai terveydenhuollon ammattilaisen varoituksia. Tapaus nostaa jälleen esiin kysymyksen siitä, missä määrin tekoäly-yhtiöt ovat vastuussa järjestelmiensä neuvoista tilanteissa, joissa käyttäjä hakee ohjeita terveydelle tai hengelle vaaralliseen toimintaan.