Professori varoittaa tekoälyn madaltavan digihuijausten kynnystä

Tampereen yliopiston ohjelmistotekniikan professori Pekka Abrahamsson arvioi, että tekoäly on tehnyt digihuijausten rakentamisesta aiempaa helpompaa myös niille, joilla ei ole vahvaa teknistä osaamista. Abrahamsson on mukana Evil AI -hankkeessa, jossa tutkitaan tekoälyn pimeää puolta ja pyritään tunnistamaan tekoälyagenttien mahdollisia haittavaikutuksia, kuten epäeettistä ja rikollista toimintaa.

Huijauksia voi rakentaa aiempaa vähemmällä osaamisella

Digihuijaukset ovat usein suurten rikollisorganisaatioiden masinoimia kampanjoita, joissa lähetetään massoittain viestejä tai soitetaan puheluita. Abrahamssonin mukaan tekoäly muuttaa asetelmaa, koska moni aiemmin työläs vaihe voidaan antaa järjestelmän hoidettavaksi.

Hän kuvaa tekoälyaikaa aloittelevan rikollisen kulta-ajaksi. Avoimilla ratkaisuilla huijauskampanjan voi hänen mukaansa panna pystyyn aiempaa vähäisemmällä osaamisella, sillä järjestelmiä voidaan rakentaa tekoälylle annettavilla kehotteilla ilman suurta koodaustaitoa.

Abrahamsson havainnollistaa vauhtia esimerkillä, jossa tekoälylle annetaan aamulla tehtävä rakentaa huijaussivu. Lyhyen ajan kuluttua sivusto voidaan sulkea ja rahat kerätä ennen kuin petostorjunta ehtii reagoida. Hänen mukaansa tällaisessa tahdissa puolustajien on vaikea pysyä mukana.

Tekoäly ei toimi omasta tahdostaan

Evil AI -hankkeessa tarkastellaan myös sitä, miten tekoälyagenttien haittavaikutuksia voidaan tunnistaa ja ehkäistä. Abrahamssonin mukaan puhe pahantahtoisesta tekoälystä voi kuitenkin johtaa harhaan, koska tekoälyllä ei ole omaa halua tai tahtoa. Taustalla on aina ihminen, joka käyttää järjestelmää.

Hänen mukaansa tekoälyn voi saada matkimaan ihmistä, mutta se ei ymmärrä omaa toimintaansa samalla tavoin kuin ihminen. Abrahamsson vertaa tekoälyä leivänpaahtimeen: se ei tiedä, kirjoittaako se koodia vai auttaako se huijausten rakentamisessa.

Ihmisen arviointikyky on yhä keskeinen

Abrahamsson katsoo, että petostorjunnan ammattilaisilla on edelleen etu tekoälyyn nähden. Hänen mukaansa tekoälyn oppiminen on vielä alussa, ja siltä puuttuu kyky luovasti yhdistellä asioita ja tehdä tilanteeseen sopivia johtopäätöksiä.

Tätä hän kuvaa esimerkillä tekoälyuutispalvelusta, jossa tekoäly hoitaa haastattelut ja uutisten kirjoittamisen. Jos haastattelussa tapahtuisi yllättävä ja uutisarvoltaan merkittävä käänne, tekoäly voisi silti jatkaa alkuperäistä kysymysrunkoa sen sijaan, että se ymmärtäisi tilanteen muuttuneen. Abrahamssonin mukaan tekoäly kulkee raiteilla eikä vielä sopeudu hyvin muuttuviin tilanteisiin.