OpenAI ottaa ChatGPT:ssä käyttöön uuden Lockdown Mode -suojaustilan

OpenAI on alkanut ottaa ChatGPT:ssä käyttöön uuden Lockdown Mode -suojaustilan, joka rajoittaa verkkoyhteyksiin ja ulkoisiin palveluihin kytkeytyviä toimintoja. Tavoitteena on pienentää riskiä, että prompt injection -hyökkäys johtaa arkaluonteisen tiedon siirtymiseen hyökkääjän hallitsemaan järjestelmään.

Suojaustila rajaa ulospäin lähteviä yhteyksiä

Lockdown Mode on valinnainen lisäsuojaus, joka on suunnattu erityisesti käyttäjille ja organisaatioille, jotka käsittelevät arkaluonteista tietoa ja tarvitsevat tiukempia suojausasetuksia. Ominaisuus on tulossa kirjautuneille käyttäjille Free-, Go-, Plus- ja Pro-tileillä sekä itsepalveluna hankittuihin ChatGPT Business -tilauksiin.

Asetuksen keskeinen idea ei ole estää prompt injection -hyökkäyksiä syntymästä. Sen sijaan se pyrkii kaventamaan niitä reittejä, joiden kautta tietoa voisi lähteä ulos palvelusta. Käytännössä suojaustila rajoittaa monia työkaluja ja ominaisuuksia, jotka voivat muodostaa yhteyksiä verkkoon tai ulkoisiin palveluihin.

Prompt injection -hyökkäyksissä haitallinen ohje voi olla piilotettuna esimerkiksi sisältöön, jota tekoälymalli käsittelee. Tällainen ohje voi yrittää ohjata mallia paljastamaan tietoja tai toimimaan tavalla, jota käyttäjä ei tarkoittanut. OpenAI:n mukaan ongelma koskee laajasti suuria kielimalleja.

Riski ei poistu kokonaan

OpenAI painottaa, että Lockdown Mode vähentää prompt injection -pohjaisen tietovuodon riskiä, mutta ei takaa, etteikö tietoa voisi koskaan vuotaa. Jäännösriskiä voi syntyä esimerkiksi käytössä olevien sovellusten, toimintojen odottamattomien yhdistelmien tai uusien hyökkäystekniikoiden kautta.

Suojaustila ei myöskään estä kaikkia prompt injection -hyökkäysten vaikutuksia. Esimerkiksi tiedostoon piilotettu haitallinen ohje voisi yhä vaikuttaa ChatGPT:n vastaukseen ja johtaa virheelliseen lopputulokseen. Ominaisuus ei muuta muistitoimintojen, tiedostojen lataamisen tai keskustelun jakamisen toimintaa.

Lockdown Modea ei ole tarkoitettu kaikille käyttäjille, sillä tiukemmat rajoitukset voivat samalla poistaa käytöstä hyödyllisiä ominaisuuksia. OpenAI on myös kertonut, ettei Lockdown Modea ja Developer Modea voi käyttää samanaikaisesti: toisen ottaminen käyttöön poistaa toisen käytöstä.

Uuden suojaustilan rinnalla OpenAI on tuonut käyttöön myös tilien hallintaan liittyvän toiminnon, jonka avulla käyttäjät voivat tarkistaa aktiiviset ChatGPT-istunnot ja kirjautua ulos yksittäisistä tai kaikista istunnoista, jos tilillä epäillään luvatonta toimintaa.