OpenAI alkaa merkitä ChatGPT:n tekstiä vesileimalla EU:ssa

0

OpenAI lisää näkymättömän vesileiman ChatGPT:n ja Codexin tuottamaan tekstiin EU:ssa tulevien viikkojen aikana. Taustalla on EU:n tekoälyasetus, ja API-käyttäjät voivat ottaa vesileimauksen käyttöön vapaaehtoisesti.

aiuutiset.fi — Tekoälyuutiset suomeksi

OpenAI alkaa lisätä näkymätöntä vesileimaa ChatGPT:n ja Codexin tuottamaan tekstiin Euroopan unionissa. Yhtiö kertoi asiasta maanantaina 5. lokakuuta julkaistussa tiedotteessa. Vesileima otetaan käyttöön tulevien viikkojen aikana kaikilla tilausmalleilla, mutta vain EU:n alueella.

Muutos on merkittävä, koska ChatGPT on yksi maailman käytetyimmistä tekoälypalveluista. Jatkossa kone voi arvioida, onko teksti syntynyt OpenAI:n mallilla. Taustalla on EU:n tekoälyasetus, joka velvoittaa generatiivisen tekoälyn tarjoajat merkitsemään tuottamansa sisällön koneellisesti tunnistettavalla tavalla.

Mitä OpenAI ilmoitti

OpenAI:n tiedotteen mukaan vesileima lisätään kelvolliseen ChatGPT:n ja Codexin tekstituotantoon EU:ssa kaikilla tilausmalleilla. Yhtiö ei tee vesileimauksesta maailmanlaajuista oletusasetusta ainakaan julkaisun yhteydessä. Yhtiön mukaan alueellinen ratkaisu antaa sille tilaa oppia oikeasta käytöstä ja palautteesta.

Samana päivänä OpenAI avasi vesileimauksen vapaaehtoisena ohjelmointirajapinnan eli APIn käyttäjille kaikkialla maailmassa. API:ssa vesileimaus on oletusarvoisesti pois päältä, eli asiakas päättää itse, ottaako sen käyttöön valikoiduissa malleissa. Yhtiö kertoo myös tekevänsä yhteistyötä pilvipalvelukumppanien kanssa, jotta vesileimaus saadaan tarjolle niiden kautta käytettäviin OpenAI:n malleihin tulevien viikkojen aikana.

Näin textGrain-vesileima toimii

OpenAI:n menetelmä on nimeltään textGrain. Se ei lisää tekstiin näkyvää merkkiä tai symbolia, vaan muokkaa hienovaraisesti sitä, miten kielimalli valitsee seuraavan sanansa. Yksittäinen valinta on merkityksetön, mutta satojen valintojen summana syntyy tilastollinen kuvio, jota ihminen ei huomaa mutta jota varten rakennettu tunnistin voi etsiä. Koska merkki on sanoissa itsessään, se kulkee tekstin mukana myös silloin, kun teksti kopioidaan ja liitetään eteenpäin.

Menetelmää kuvataan teknisessä raportissa, jonka OpenAI kirjoitti yhdessä Pennsylvanian yliopiston ja Yalen yliopiston tutkijoiden kanssa. Yhtiö aikoo julkaista teknologian myös avoimena lähdekoodina, jotta muut voivat rakentaa sen päälle.

OpenAI:n mukaan textGrain oli yhtä hyvä tai parempi kuin muut kokeillut menetelmät, mukaan lukien Googlen SynthID-tekstivesileima. Yhtiö kertoo, ettei sen uusimman Astra-mallin vertailutestien tuloksissa näkynyt merkittävää eroa vesileimauksen kanssa ja ilman.

Vesileiman rajat: lyhyt teksti ja muokkaus heikentävät tunnistusta

OpenAI korostaa, että tekstin vesileimaus on vielä varhainen teknologia, jonka tunnistus ei ole luotettavaa kaikissa tilanteissa. Tunnistin voi tehdä kahdenlaisia virheitä: se voi ilmoittaa vesileimasta, jota ei ole, tai jättää havaitsematta vesileiman, joka on olemassa.

  • Lyhyt tai muodoltaan rajoittunut teksti on vaikeampi tunnistaa. Kun väärien hälytysten tavoitetaso oli yksi prosentti, tunnistin löysi vesileiman noin 80 prosentista 200 tokenin mittaisista katkelmista ja noin 95 prosentista 400 tokenin katkelmista psykologiaa koskevassa sisällössä.
  • Muokkaus heikentää vesileimaa. Kun 400 tokenin katkelmasta vaihdettiin kymmenen prosenttia sanoista synonyymeihin, tunnistus laski noin 92 prosentista 66 prosenttiin. Kun sanoista vaihdettiin neljännes, tunnistus putosi 17 prosenttiin.
  • Matematiikassa tunnistus oli selvästi heikompaa, koska sananvalinta on siinä vähemmän vapaata.

Yhtiön mukaan juuri nämä rajoitukset ovat syy siihen, että tunnistustyökalua ei avata heti kaikille.

Mitä vesileima ei kerro

OpenAI luettelee tiedotteessaan myös asioita, joita vesileimasta ei voi päätellä. Vesileima ei kerro, kuinka paljon ihminen osallistui tekstin tekemiseen, eikä se ratkaise tekstin omistajuutta, laillisuutta tai vastuuta. Se ei myöskään tunnista käyttäjää eikä yhdistä tekstiä henkilöön, tiliin, kehotteeseen tai keskusteluun. Vesileima ei varmista tekstin paikkansapitävyyttä eikä kerro, onko sisältö harhaanjohtavaa.

Yhtiö muistuttaa lisäksi, että vesileiman puuttuminen ei todista, että ihminen olisi kirjoittanut tekstin. Teksti voi olla liian lyhyt, voimakkaasti muokattu tai käännetty, se voi olla peräisin mallista, jota vesileimaus ei tue, tai se voi olla toisen yhtiön työkalun tuottamaa.

Tutkijoille oma tunnistustyökalu

OpenAI avasi 5. lokakuuta hakemukset vesileiman tunnistustyökaluun. Käyttö myönnetään aluksi tapaus kerrallaan hyväksytyille tutkijoille ja asiantuntijaorganisaatioille EU:n käytännesääntöjen mukaisesti. Työkalu kertoo, löytääkö se OpenAI:n vesileiman, mutta ei paljasta käyttäjää eikä tämän kehotteita tai keskusteluja. Yhtiö perustelee rajausta sillä, että sekä puuttuvat vesileimat että väärien hälytysten riski tekevät tulosten tulkinnasta vaikeaa suurelle yleisölle.

Taustalla EU:n tekoälyasetus ja joulukuun määräaika

Vesileimaus on vastaus EU:n tekoälyasetuksen vaatimukseen, joka koskee generatiivisen tekoälyn tuottaman sisällön merkitsemistä. Asetuksen 50 artikla velvoittaa tarjoajat siihen, että tuotettu teksti on koneellisesti tunnistettavissa. Teknologiasivusto Engadgetin mukaan jo markkinoilla olevilla tarjoajilla on aikaa 2. joulukuuta asti täyttää velvoite.

OpenAI ei ole ensimmäinen. Anthropic aloitti Claude-malliensa tekstin vesileimauksen maailmanlaajuisesti elokuussa, ja päätös herätti osassa käyttäjiä vastustusta. OpenAI oli rakentanut tekstivesileiman jo aiemmin, mutta lykkäsi sen käyttöönottoa muun muassa siksi, että se pelkäsi käyttäjien siirtyvän kilpailijoille, jotka eivät vesileimaa tekstiä. Asiasta kertoi The Wall Street Journal vuonna 2024. Anthropic, Google, Meta, Microsoft ja OpenAI ovat sitoutuneet noudattamaan EU:n käytännesääntöjä tekoälyn tuottamasta sisällöstä.

Lähteet


Vastuuvapauslauseke: Tämä artikkeli on tarkoitettu vain tiedotustarkoituksiin. Sitä ei tarjota tai ole tarkoitettu käytettäväksi oikeudellisena, verotuksellisena, sijoitus-, rahoitus- tai muuna neuvona.

Mainos: alla on kumppanimainoksia ja mainoslinkkejä.

Kvarn X – kryptot, osakkeet ja ETF:t samassa paikassa

Coinmotion – suomalainen kryptopalvelu vuodesta 2012

Leave a Reply

Pakolliset kentät on merkitty *