DeepMindin Demis Hassabis ehdottaa Yhdysvaltoihin tekoälyn standardointielintä

Google DeepMindin toimitusjohtaja Demis Hassabis ehdottaa Yhdysvaltoihin uutta standardointielintä, joka arvioisi edistyneimpiä tekoälymalleja ennen niiden pääsyä markkinoille. Elin testaisi malleja myös kansallisen turvallisuuden näkökulmasta, loisi yhteisen arviointimenettelyn ja valmistelisi parhaita käytäntöjä mallien julkaisemiseen. Hassabis haluaa siirtää nykyisen vapaaehtoisen tarkastelun kohti muodollista ja lopulta pakollista järjestelmää.

Mallina finanssialan sääntelyelin

Hassabis esitteli ehdotuksen tiistaiaamuna X-palvelussa julkaisemassaan kirjoituksessa, jonka otsikko viittasi eturintaman tekoälyn kehykseen ja uuden aikakauden alkamiseen. Hahmotelman esikuvana on Yhdysvaltain finanssialan sääntelyelin FINRA. Uuden elimen päätehtävänä olisi laatia arviointiprotokolla eturintaman tekoälymalleille. Ehdotus koskee niin kutsuttuja eturintaman malleja eli alan kehittyneimpiä järjestelmiä.

Hassabiksen mallissa toiminta alkaisi hallituksella, jossa olisi teknologia-asiantuntijoita ja avoimen lähdekoodin edustajia. Rahoitus tulisi tekoälytoimialalta itseltään. Hassabiksen mukaan tällainen järjestely auttaisi houkuttelemaan maailmanluokan teknistä osaamista ja varmistaisi, että elimellä olisi käytössään riittävästi laitteistoa erilaisten eturintaman mallien testaamiseen. Elimen olisi pystyttävä suorittamaan useita omia mallikokeita, mikä tekee laskentaresursseista olennaisen osan ehdotusta.

Vapaaehtoisesta arvioinnista pakolliseen malliin

Ehdotus liittyy presidentti Trumpin toimeenpanomääräykseen 14409, jolla käynnistettiin vapaaehtoinen 30 päivän ennakkoarviointimenettely määräyksen piiriin kuuluville eturintaman malleille. Nykyinen kehys perustuu siis vapaaehtoisuuteen. Hassabiksen ehdottama yhdysvaltalainen standardointielin tekisi tarkastelusta muodollisemman ja keskittäisi mallien arvioinnin sitä varten perustetulle toimijalle.

Tarkastusten kohteena olisivat erityisesti mallien kansalliseen turvallisuuteen liittyvät ominaisuudet ennen kuin mallit tuodaan markkinoille. Hassabiksen tavoitteena on, että ennakkoarvioinnista tulisi ajan mittaan pakollinen. Ehdotus veisi siten nykyistä 30 päivän vapaaehtoista kehystä kohti järjestelmää, jossa uusi elin määrittelisi arviointitavan ja valvoisi sen soveltamista. Samalla elin kehittäisi yhteiset parhaat käytännöt sille, millaisin ehdoin mallit voidaan julkaista.

Toimialan rahoitukseen liittyy eturistiriitojen riski

Toimialan rahoitus tarjoaisi asiantuntijoita ja laskentaan tarvittavaa laitteistoa, mutta samalla se herättää eturistiriitoja koskevan kysymyksen. Myös FINRA saa rahoituksensa siltä toimialalta, jota sen on tarkoitus säännellä. Mallia on tämän vuoksi arvosteltu hampaattomaksi sisäpiirin kerhoksi. Tekoälyelimen uskottavuuden kannalta ratkaisevaa olisi, miten toimialan rahoitus, hallituksen kokoonpano ja riippumaton mallien arviointi sovitettaisiin yhteen. Esitetty kritiikki kohdistuu juuri rahoittajan ja valvojan väliseen suhteeseen.