Googlen tekoäly kompastelee yhä yksinkertaisissa oikeinkirjoituskysymyksissä

Googlen tekoälypohjaiset hakuvastaukset ovat joutuneet jälleen arvostelun kohteeksi, kun AI Overview vastasi virheellisesti yksinkertaiseen oikeinkirjoituskysymykseen. Esimerkkitapauksessa järjestelmältä kysyttiin, montako e-kirjainta englannin sanassa “astronomical” on, ja vastaus väitti niitä olevan kaksi, vaikka sana ei sisällä e-kirjainta lainkaan.

Yksinkertainen kysymys paljasti tutun ongelman

Tapaus nousi esiin, kun X-käyttäjä Naomi Rohatyn testasi Googlen tekoälyjärjestelmän kykyä vastata kirjainten laskemista koskevaan kysymykseen. AI Overview vastasi, että sanassa “astronomical” on täsmälleen kaksi e-kirjainta, ja esitti sanan vielä virheellisesti kirjaimittain muodossa, jossa e-kirjaimia oli lisätty mukaan.

Samanlainen ongelma on tullut aiemminkin vastaan suurten kielimallien kanssa. Googlen tekoälytyökalut ovat aiemmin saaneet huomiota esimerkiksi virheellisistä vastauksista kysymyksiin, joissa on pyydetty laskemaan tiettyjä kirjaimia sanassa. Nämä virheet eivät välttämättä johdu siitä, ettei malli tuntisi sanaa, vaan siitä, miten se käsittelee tekstiä.

Kielimalli ei lue sanoja kuten ihminen

Gemini kuvasi asiaa siten, että se ei käsittele tekstiä samalla tavalla kuin ihminen. Kun ihminen lukee sanan, hän voi hahmottaa sen yksittäisinä kirjaimina. Kielimalli taas käsittelee sanoja ja sananosia usein niin sanottuina tokeneina eli laskennallisina yksikköinä, jotka edustavat merkitystä tai sanan osaa.

Tämä selittää, miksi tekoäly voi vastata vakuuttavasti mutta väärin kysymyksiin, jotka vaikuttavat ihmiselle triviaalilta. Malli voi tunnistaa sanan merkityksen ja käyttää sitä sujuvasti lauseissa, mutta se ei välttämättä luonnostaan tarkastele sanan jokaista kirjainta oikeassa järjestyksessä, ellei tehtävä ohjaa sitä siihen riittävän täsmällisesti.

Hakuvastausten luotettavuus on yhä avoin kysymys

Googlen AI Overview -toiminto sai jo alkuvaiheessaan vuonna 2024 kritiikkiä virheellisistä ja keksityiltä vaikuttaneista vastauksista. Sittemmin järjestelmän tarkkuuden on kerrottu parantuneen, mutta oikeinkirjoitusesimerkki osoittaa, että perustason kysymykset voivat edelleen tuottaa virheitä.

Ongelma on erityisen näkyvä hakukoneessa, jossa käyttäjä odottaa nopeaa ja yksiselitteistä vastausta. Kun tekoäly esittää virheen itsevarmana faktana, käyttäjän on vaikea erottaa, milloin vastaus perustuu luotettavaan päättelyyn ja milloin malli on vain tuottanut uskottavalta kuulostavan lauseen.