Signalin Meredith Whittaker varoittaa pitämästä tekoälychatbotteja ystävinä

Signalin johtaja Meredith Whittaker on varoittanut suhtautumasta tekoälychatbotteihin kuin ystäviin tai tietoisiin keskustelukumppaneihin. Hän kommentoi asiaa haastattelussa, jossa käsiteltiin muun muassa yksityisyyttä, teknologiapolitiikkaa ja Signalia. Whittakerin viesti oli selvä: chatbotit voivat tuntua keskustelukumppaneilta, mutta niitä ei pidä sekoittaa ihmisiin tai itsenäisesti ajatteleviin olentoihin.

Chatbotit eivät ole läheisiä keskustelukumppaneita

Whittakerilta kysyttiin chatbottien, kuten ChatGPT:n ja Clauden, yksityisyysvaikutuksista. Hän vastasi korostamalla, ettei käyttäjien pitäisi nähdä tällaisia järjestelmiä ystävinä, tietoisina olentoina tai tuntevina keskustelijoina.

Kommentti osuu aikaan, jolloin tekoälypalveluita käytetään yhä useammin arkiseen kirjoittamiseen, tiedonhakuun, työtehtäviin ja henkilökohtaisilta tuntuvien kysymysten käsittelyyn. Whittakerin näkökulmasta juuri tämä inhimillisyyden vaikutelma tekee aiheesta tärkeän: jos järjestelmää kohdellaan luottamuksellisena kumppanina, sille saatetaan kertoa asioita, joita ei muuten jaettaisi teknologia-alustalle.

Signal tunnetaan vahvasta yksityisyyspainotuksestaan, ja Whittakerin kommentit liittyivät laajempaan keskusteluun siitä, miten käyttäjien viestintää, ajattelua ja tietoja käsitellään digitaalisissa palveluissa. Hänen lausuntonsa ei ollut yleinen hyökkäys kaikkea tekoälyn käyttöä vastaan, vaan varoitus siitä, millaisia oletuksia käyttäjät voivat tehdä järjestelmistä, jotka on suunniteltu vastaamaan sujuvasti ja vakuuttavasti.

Whittaker kertoo käyttävänsä tekoälyä rajatusti

Whittaker kertoi käyttävänsä tekoälytyökaluja vain rajallisesti, esimerkiksi asiakirjan muotoiluun silloin tällöin. Hän sanoi kuitenkin, ettei kysy niiltä kysymyksiä. Perusteluna oli oma ajattelu- ja kirjoitusprosessi: hän ei halua, että idean työstäminen peittyy järjestelmän tuottaman vastauksen alle.

Hänen mukaansa tällaiset järjestelmät kokoavat vastauksensa siitä, mitä verkossa ja muissa aineistoissa on jo olemassa. Siksi ne voivat ohjata käyttäjän ajattelua kohti valmiiksi keskiarvoistettuja vastauksia sen sijaan, että käyttäjä kävisi läpi oman päättelynsä.

Whittakerin viesti tiivistyy varovaisuuteen. Tekoälytyökalut voivat olla hyödyllisiä rajatuissa tehtävissä, mutta niiden kanssa ei hänen mukaansa pidä rakentaa sellaista luottamussuhdetta, joka kuuluu ihmisille. Erityisesti yksityisyyttä koskevissa kysymyksissä käyttäjän kannattaa muistaa, että sujuva vastaus ei tee järjestelmästä ystävää, tietoista toimijaa tai luottamuksellista keskustelukumppania.