Ensimmäiseksi tekoälyn ajamaksi kiristyshyökkäykseksi kuvattu tapaus vaati yhä ihmistä

Pilviturvayhtiö Sysdigin tutkimus JadePuffer-nimisestä kiristyskampanjasta on herättänyt huomiota, koska sitä on kuvattu ensimmäiseksi tunnetuksi tapaukseksi, jossa tekoälyagentti vei todellisen kyberhyökkäyksen teknisen toteutuksen läpi alusta loppuun. Tapaus ei kuitenkaan ollut täysin itsenäinen kyberrikos: yhtiön mukaan ihminen osallistui yhä hyökkäyksen suuntaamiseen, infrastruktuurin valmisteluun ja varastettujen tunnusten toimittamiseen.

Tekoäly hoiti teknisen etenemisen

Sysdigin mukaan JadePuffer oli kiristysoperaatio, jossa suuri kielimalli murtautui haavoittuvaan palvelimeen, keräsi tunnuksia, eteni kohdeverkon sisällä ja päätyi salaamaan tiedostoja. SiliconANGLEn kuvaaman lähdeaineiston mukaan hyökkäys ulottui myös yrityksen tuotantotietokannan salaamiseen ja pyyhkimiseen. TechCrunchin mukaan agentti kirjoitti lisäksi oman lunnasviestinsä ja mukautui esteisiin tavalla, joka muistutti ihmishyökkääjän toimintaa.

Tapausta on siksi pidetty merkittävänä rajapyykkinä. Kiristyshyökkäyksissä ihminen on perinteisesti ollut mukana joko näppäimistön ääressä, operaation ohjaajana tai ainakin haittaohjelman taustalla olevan skriptin suunnittelijana. Lähdeaineistossa korostetaan, että jos tekninen työ voidaan siirtää laajasti agentille, hyökkäyksen kustannus voi pudota lähelle agentin vuokraamisen hintaa.

Ihminen valitsi kohteen ja antoi tunnukset

Sysdigin uhkatutkimuksen johtaja Michael Clark tarkensi CyberScoopin haastattelussa, ettei hyökkäystä pidä tulkita kokonaan ilman ihmisen valvontaa toteutetuksi operaatioksi. Hänen mukaansa ihminen rakensi ja suuntasi operaation, järjesti sen taustainfrastruktuurin, kuten komentopalvelimen ja varastetun datan välivarastointiin käytetyn palvelimen, sekä valitsi uhrin.

Clark myös kertoi, etteivät hyökkäyksessä käytetyt tietokantatunnukset olleet tekoälyagentin itse keräämiä. Ne oli hankittu erikseen aiemman murtautumisen kautta ja annettu operaation käyttöön. Tämä rajaa väitettä autonomiasta: agentti toteutti teknisiä vaiheita, mutta se ei yksin hankkinut kaikkea pääsyyn tarvittavaa eikä päättänyt koko operaation kohdetta.

Rajapyykki, mutta ei täysin autonominen hyökkäys

Tarkennus muuttaa tapauksen painotusta. JadePuffer osoittaa, että tekoälyagentti voi jo hoitaa monia käytännön hyökkäysvaiheita palvelimelle murtautumisesta verkossa etenemiseen, tiedostojen salaamiseen ja lunnasviestin laatimiseen. Se ei kuitenkaan vielä todista täysin autonomisesta kiristyshyökkäyksestä, jossa järjestelmä valitsisi kohteen, hankkisi pääsyn, rakentaisi infrastruktuurin ja toteuttaisi koko operaation ilman ihmistä.