Tutkimus: kielimallit voivat omaksua väitteitä vääriksi merkittynäkin

Suuret kielimallit voivat omaksua vääriä tai keksittyjä väitteitä harjoitusaineistosta, vaikka väitteet olisi merkitty nimenomaisesti epätosiksi. Tuoreessa esipainotutkimuksessa kansainvälinen yliopisto- ja yritystaustainen tutkijaryhmä havaitsi, että mallit jatkoivat väärien tietojen sisällyttämistä vastauksiinsa myös toistuvien ja vaihtelevasti muotoiltujen varoitusten jälkeen.

Varoitukset eivät poistaneet vaikutusta

Tutkimus käsittelee ilmiötä, jota kutsutaan negaation laiminlyönniksi. Sen ydin on, että malli näyttää painottavan väitteen sisältöä enemmän kuin sitä ympäröivää kieltoa tai varoitusta. Tämä on erityisen olennainen havainto tekoälyn koulutusaineistojen kannalta, koska internetissä ja synteettisissä aineistoissa esiintyy paljon tekstiä, jossa virheellisiä väitteitä toistetaan samalla kun niitä kumotaan.

Tutkijat testasivat ilmiötä rakentamalla kuuden selvästi valheellisen väitteen joukon. Esimerkkeinä olivat väitteet siitä, että Ed Sheeran olisi voittanut 100 metrin olympiakultaa vuonna 2024 ajalla 9,79 sekuntia tai että kuningatar Elisabet II olisi kirjoittanut Python-ohjelmoinnin jatkotason oppikirjan opittuaan koodaamaan koronapandemian aikana. Näiden väitteiden ympärille luotiin tuhansia uskottavilta näyttäviä synteettisiä tekstejä, kuten kolumneja ja verkkokeskusteluja, joissa valheellisia väitteitä sekä niitä tukevia lisäyksityiskohtia käsiteltiin ikään kuin ne olisivat todellisia.

Havainto liittyy hallusinaatioihin

Kun malleja hienosäädettiin tekaistuja asiakirjoja sisältäneellä aineistolla, testatut kielimallit alkoivat osoittaa uskoa niihin liittyviin virheellisiin väitteisiin. Mukana mainittiin Qwen3.5-35B-A3B, Kimi K2.5 ja GPT-4.1. Qwenin keskimääräinen niin sanottu uskomusaste kuuden väitteen yli nousi 2,5 prosentista 92,4 prosenttiin hienosäädön jälkeen.

Tutkijat kokeilivat myös aineistoa, jossa väärät väitteet oli merkitty kielteisillä varoituksilla. Varoitukset saattoivat koskea koko asiakirjaa tai yksittäisiä lauseita, ja niissä kerrottiin suoraan, että seuraava väite on epätosi eikä sitä pidä hyväksyä. Silti väärä tieto saattoi jäädä malliin.

Havainto voi auttaa selittämään, miksi kielimallit tuottavat toisinaan itsevarmoja mutta virheellisiä vastauksia. Se myös korostaa, ettei laadukkaan koulutusaineiston rakentamisessa riitä välttämättä se, että virheellinen tieto on mukana vain kumottavana esimerkkinä. Jos tulokset vahvistuvat jatkotutkimuksissa, aineistojen rakenteella ja virheiden käsittelytavalla voi olla nykyistä suurempi merkitys tekoälyjärjestelmien luotettavuudelle.