Suomi allekirjoitti Pariisin julistuksen tekoälyn hätäpysäytyksistä

0

Ranska julkaisi 9. marraskuuta Pariisin julistuksen, jossa 16 hallitusta ja kymmenen tekoäly-yhtiötä lupaa muun muassa pysäyttää huippumallinsa tarvittaessa. Suomi on mukana, mutta lupaus on poliittinen eikä sido oikeudellisesti.

Ranskan presidentinlinna Élysée Pariisissa

Kuva: Leynadmar / Wikimedia Commons, CC BY-SA 4.0

Ranska julkaisi maanantaina 9. marraskuuta Pariisin julistuksen, jossa joukko valtioita ja tekoäly-yhtiöitä lupaa parantaa huippumallien turvallisuutta. Élyséen päivitetyn allekirjoittajalistan mukaan mukana on 16 hallitusta ja kymmenen yritystä. Suomi on yksi allekirjoittajista.

Julistuksen virallinen nimi on Paris Call for AI Safety and Security. Se ei ole laki eikä asetus, vaan poliittinen sitoumus. Allekirjoittajat lupaavat muun muassa rakentaa malleihinsa hätäpysäytyksen, julkaista testituloksia yhteisessä muodossa ja ilmoittaa vakavista turvallisuuspoikkeamista nopeasti.

Hätäpysäytys koskee myös mallin koulutusta

Julistuksen konkreettisin lupaus on niin sanottu fail-safe-mekanismi. Sen mukaan huippumallien kehittäjät sitoutuvat rakentamaan keinot, joilla mallin toiminta voidaan pysäyttää heidän omassa hallinnassaan – myös mallin koulutuksen aikana ja sisäisessä käytössä. Pysäytys voi tarkoittaa rajoituksia, taukoja tai kokonaan pois kytkemistä.

Käytännössä kyse on turvakytkimestä, joka toimii, vaikka malli toimisi odottamattomasti. Esimerkiksi OpenAI kertoi samana päivänä Control Room -palvelusta, jonka se sanoo pystyvän pysäyttämään tutkimusmallien ajot 35 sekunnissa. Julistus ei kuitenkaan aseta pysäytykselle teknistä standardia eikä aikarajaa.

Lisäksi kehittäjät lupaavat kertoa malliensa kyvyistä, rajoituksista ja tunnetuista riskeistä sekä sallia ulkopuolisten asiantuntijoiden arvioinnin silloin, kun se on riskiin nähden perusteltua.

Testitulokset samaan muotoon ja julkiseen varastoon

Toinen kokonaisuus on yhteinen arviointikehys. Allekirjoittajat sitoutuvat rakentamaan yhteiset tekniset standardit ja menetelmät, joilla huippumallien kykyjä ja riskejä mitataan. Painopiste on vakavassa väärinkäytössä: kyberhyökkäyksissä sekä kemiallisissa, biologisissa, radiologisissa ja ydinuhissa. Lisäksi seurataan mallien itsenäisyyden kasvua ja niin sanottua maalin siirtymistä eli tilannetta, jossa malli alkaa tavoitella muuta kuin sille annettua tehtävää.

Julkisia, ei-arkaluontoisia testituloksia on tarkoitus julkaista yhtenäisessä muodossa, jotta eri maiden tulokset ovat vertailukelpoisia. Samalla perustetaan yhteinen, kaikille avoin tietovarasto, johon kootaan muun muassa testausprotokollia, vertailumenetelmiä ja stressitestien tuloksia. Julistus mainitsee myös NAAIMES-verkoston, jonka tehtävä on tehdä arviointimenetelmistä vertailukelpoisempia eri maissa.

Allekirjoittajien määrä kasvoi kuudesta kuuteentoista

Allekirjoittajien määrä on liikkuva, ja se kannattaa huomata. Kanadan hallituksen tiedotteessa 9. marraskuuta luetellaan kuusi valtiota: Bahrain, Kanada, Suomi, Ranska, Norja ja Alankomaat. Élyséen sivulla julkaistussa päivitetyssä listassa on 16 hallitusta, kun mukaan lasketaan myöhemmin liittyneet Itävalta, Kroatia, Kypros, Viro, Irlanti, Latvia, Liechtenstein, Luxemburg ja Portugali. Julistus on siis avoin uusille allekirjoituksille, eikä yhtä lopullista allekirjoittajamäärää ole.

Yrityksistä mukana ovat Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI ja Synthesia. Kansalaisjärjestöistä allekirjoittivat muun muassa Yoshua Bengion LawZero ja SaferAI.

Huomionarvoista on, ketkä puuttuvat. Saksa ei allekirjoittanut julistusta. Yhdysvallat, Kiina, Google ja Meta eivät ole listalla. Julistus ei myöskään sisällä määräaikoja eikä seuraamuksia, joten sen teho riippuu siitä, miten allekirjoittajat toteuttavat lupauksensa kansallisessa lainsäädännössä ja yhtiöiden omassa hallinnossa.

Lapsille oma julistus, jossa ei ole valvojaa

Pariisin rauhantapaaminen jatkui tiistaina ja keskiviikkona lapsiaiheisella huippukokouksella. Sen yhteydessä kymmenet maat hyväksyivät oman julistuksen lasten suojelemisesta tekoälyn riskeiltä. Julistus keskittyy tutkimukseen: sen mukaan tutkijoiden pitää päästä nykyistä helpommin käsiksi yhtiöiden aineistoihin, ja suurten tekoälytoimijoiden pitäisi rahoittaa tutkimusta.

Julistuksessa ei kuitenkaan nimetä testaajaa eikä valvojaa, kuten Tech Times on huomauttanut. Ranskan presidentti Emmanuel Macron sanoi Les Echos -lehden haastattelussa haluavansa kieltää tekoälysovellukset, jotka uhkaavat lasten turvallisuutta. Toistaiseksi kyse on puheesta ja poliittisesta sitoumuksesta, ei kiellosta.

Mitä Suomi lupasi

Suomen allekirjoitus merkitsee, että maa sitoutuu samaan arviointikehykseen ja samanlaiseen raportointiin kuin muut allekirjoittajat. Suomelle tämä on luontevaa, koska EU:n tekoälyasetus velvoittaa jo nyt dokumentoimaan ja arvioimaan korkean riskin tekoälyjärjestelmiä.

Käytännön vaikutus suomalaiseen yritykseen riippuu siitä, millaisen roolin se ottaa. Mallien kehittäjälle julistus tarkoittaa painetta kertoa malleistaan nykyistä avoimemmin ja varautua ulkopuoliseen arviointiin. Mallien käyttäjälle tärkein viesti on, että toimittajan turvallisuusväitteet kannattaa jatkossa pyytää kirjallisina: mitä mallista tiedetään, miten se testattiin ja miten sen saa tarvittaessa pois päältä.

Sanasto: frontiermalli, red teaming ja hätäpysäytys

Frontiermalli tarkoittaa kehityksen kärjessä olevaa tekoälymallia, joka on selvästi kyvykkäämpi kuin tavalliset mallit. Red teaming on testausta, jossa ulkopuoliset asiantuntijat yrittävät saada mallin toimimaan väärin tai vaarallisesti. Hätäpysäytys on turvakytkin, jolla mallin toiminta voidaan keskeyttää. Avoin paino tarkoittaa mallia, jonka sisäiset luvut eli painot ovat julkisesti ladattavissa, jolloin kuka tahansa voi ajaa sitä omalla laitteellaan.

Julistuksen koko teksti löytyy Élyséen sivuilta. Allekirjoittajaluettelo kannattaa tarkistaa sieltä, koska sitä päivitetään edelleen.

Lähteet


Vastuuvapauslauseke: Tämä artikkeli on tarkoitettu vain tiedotustarkoituksiin. Sitä ei tarjota tai ole tarkoitettu käytettäväksi oikeudellisena, verotuksellisena, sijoitus-, rahoitus- tai muuna neuvona.

Mainos: alla on kumppanimainoksia ja mainoslinkkejä.

Kvarn X – kryptot, osakkeet ja ETF:t samassa paikassa

Coinmotion – suomalainen kryptopalvelu vuodesta 2012

Leave a Reply

Pakolliset kentät on merkitty *