Tekoälyyhtiö Anthropic etsii aseasiantuntijaa estämään järjestelmiensä väärinkäyttöä

Tekoälyyhtiö Anthropic hakee palvelukseensa ase- ja turvallisuusasiantuntijaa. Tehtävänä on estää yhtiön tekoälyjärjestelmien käyttö vaarallisiin tarkoituksiin. Anthropic on perustellut rekrytointia halulla torjua järjestelmiensä väärinkäyttöä.

Anthropicin Claude-tekoälymallit ovat yleiskäyttöisiä järjestelmiä, jotka pystyvät tuottamaan yksityiskohtaista tekstiä lähes mistä aiheesta tahansa. Yhtiö on tunnistanut riskin, että malleja voitaisiin käyttää esimerkiksi aseiden valmistukseen liittyvän tiedon hankkimiseen.

Asealan osaajan palkkaaminen kuvastaa tekoälyalan kehityssuuntaa. Suuret mallikehittäjät palkkaavat yhä enemmän erikoisalojen asiantuntijoita arvioimaan ja rajoittamaan järjestelmiensä riskejä. Tavoitteena on tunnistaa vaaralliset käyttötavat ennen kuin ne toteutuvat.

Anthropicin lähestymistapa eroaa osasta kilpailijoita. Yhtiö on painottanut tekoälyturvallisuutta ja julkaissut useita raportteja malliensa riskiarvioista. San Franciscossa toimiva yhtiö on kerännyt yli 10 miljardia dollaria rahoitusta.