OpenAI julkaisi kuvatunnistimen lapsiin kohdistuvan materiaalin torjuntaan
OpenAI julkaisi kuvatunnistimen, joka tunnistaa lapsiin kohdistuvaa hyväksikäyttöä kuvaavaa materiaalia myös tekoälyn tuottamana. ChatGPT varoittaa käyttäjää ja sulkee tilin vuorokaudeksi.
Kuva: Jernej Furman, Wikimedia Commons, CC BY 2.0
OpenAI kertoi maanantaina 16. marraskuuta julkaisseensa kuvatunnistimen, joka tunnistaa lapsiin kohdistuvaa seksuaalista hyväksikäyttöä kuvaavaa materiaalia eli CSAM-materiaalia myös silloin, kun kuva on tehty tekoälyllä. Samalla ChatGPT sai varoitusruudut ja 24 tunnin käyttökiellon käyttäjille, jotka yrittävät hakea tällaista sisältöä. Yhtiö julkaisi lisäksi ohjeet kehittäjille ja työkaluja lapsiin kohdistuvia rikoksia tutkiville viranomaisille.
Luokitin antaa pisteytyksen, ei lopullista tuomiota
Uusi työkalu on kuvien konenäköön perustuva luokitin. Se etsii kuvista merkkejä hyväksikäytöstä ja antaa jokaiselle kuvalle riskipisteet, joiden perusteella ihmistarkastaja voi päättää, mitkä kuvat hän katsoo ensin. OpenAI kehitti työkalun yhdessä Yhdysvaltain kadonneiden ja hyväksikäytettyjen lasten keskuksen NCMECin kanssa.
Yhtiö tarjoaa luokitinta maksutta OpenAI:n rajapinnan kautta tarkistetuille organisaatioille, kuten lapsiturvajärjestöille ja muille alan toimijoille. OpenAI:n mukaan kyse on ensimmäisestä laajasti saatavilla olevasta CSAM-luokittimesta, joka antaa erillisen signaalin siitä, onko materiaali mahdollisesti tekoälyn tuottamaa. Väite on yhtiön oma, eikä sitä ole riippumattomasti vahvistettu.
48 prosenttia vähemmän merkintöjä, sama määrä löydöksiä
OpenAI kertoo testanneensa luokitinta käyttäjien lataamilla kuvilla ja vertailleensa sitä nykyisiin suojauksiinsa. Yhtiön mukaan uusi työkalu merkitsi 48 prosenttia vähemmän kuvia mutta löysi suunnilleen yhtä monta hyväksikäyttöä kuvaavaa kuvaa kuin vanha menetelmä. Lisäksi uuden luokittimen merkitsemät kuvat olivat noin kaksi kertaa todennäköisemmin todella hyväksikäyttöä kuvaavia.
Varhaiset kumppanit ovat raportoineet omia lukujaan. Fal-niminen yritys kertoo, että sen ihmistarkastajat vahvistivat 72 prosenttia luokittimen varmoista merkinnöistä uudeksi CSAM-materiaaliksi. Invideo AI:n testissä joka neljäs merkitty tapaus johti tilin sulkemiseen, ja SafetyKitin arvioissa luokitin tunnisti 90 prosenttia tapauksista, joissa piirrokset tai animaatiot seksualisoivat lapsia. Luvut ovat kumppaneiden omia ilmoituksia, eivät riippumattoman tutkimuksen tuloksia.
ChatGPT varoittaa, poistaa keskustelun ja sulkee tilin vuorokaudeksi
ChatGPT:ssä käyttäjä, joka yrittää hakea lapsia seksualisoivaa sisältöä, saa jatkossa varoituksen. Varoitus kertoo, että lasten seksualisointi aiheuttaa vahinkoa myös silloin, kun materiaali on tekoälyn tuottamaa. Samalla OpenAI poistaa merkityn keskustelun ja keskeyttää pääsyn ChatGPT:hen 24 tunniksi. Käyttäjälle tarjotaan edelleen apua ja tukea käyttäytymisen lopettamiseen.
Toistuvat rikkomukset voivat yhtiön mukaan johtaa pidempiin rajoituksiin ja lopulta tilin sulkemiseen tai ilmoitukseen viranomaisille. OpenAI kertoo kehittäneensä varoituksen yhdessä muun muassa Protect Children- ja Lucy Faithfull Foundation -järjestöjen sekä tutkijoiden kanssa.
Kehittäjille ohjeet, lainvalvonnalle työkalut
OpenAI julkaisi samalla ohjeistuksen kehittäjille siitä, miten lapsiin kohdistuvaa materiaalia voi ehkäistä, tunnistaa ja raportoida. Ohjeet on tehty yhdessä Tech Coalitionin, Thornin, NCMECin ja Internet Watch Foundationin kanssa. Yhtiö kertoo, että ohjeet auttoivat varhaisessa testissä useita kehittäjiä ottamaan käyttöön lapsiturvatyökaluja ja rekisteröitymään materiaalin raportointiin.
Lainvalvonnalle OpenAI tarjoaa työkaluja, kuten erillisiä lisäosia, tutkintatyökaluja ja työkaluja suurten tietoaineistojen analysointiin. Niiden käyttöä hallinnoivat ohjelman ylläpitäjät. Yhtiö kouluttaa myös tutkijoita ja julkaisi kenttäoppaan työkalujen käytöstä.
Taustalla oikeusjutut ja kova kritiikki
Ilmoitus tulee tilanteessa, jossa tekoälytyökalujen vaikutuksia lapsiin on alettu käsitellä yhä enemmän oikeudessa ja julkisuudessa. OpenAIta vastaan on nostettu useita kanteita, joissa yhtiön teknologian väitetään vahingoittaneen käyttäjiä. Lasten turvallisuuteen keskittyvä Common Sense Media on kutsunut OpenAI:n teknologiaa “ei-hyväksyttäväksi riskiksi” teini-ikäisille.
Myös muiden yhtiöiden chatbotteja, erityisesti Grokia, on käytetty seksualisoitujen kuvien tuottamiseen ilman kuvattavan suostumusta. OpenAI on viimeisen vuoden aikana päivittänyt sääntöjään, kouluttanut mallejaan kieltäytymään haitallisista pyynnöistä ja julkaissut erillisen ChatGPT-version teini-ikäisille.
Sanasto: CSAM, luokitin ja konenäkö
CSAM tarkoittaa lapsiin kohdistuvaa seksuaalista hyväksikäyttöä kuvaavaa materiaalia. Luokitin on ohjelma, joka lajittelee aineistoa ennalta määriteltyihin luokkiin, tässä tapauksessa arvioi, kuinka todennäköisesti kuva sisältää hyväksikäyttöä. Konenäkö tarkoittaa tekoälyn kykyä tulkita kuvia ja videota. Generatiivinen tekoäly puolestaan tuottaa uutta sisältöä, kuten kuvia, ja juuri siksi sen väärinkäyttö on keskeinen osa ongelmaa.
Lähteet
- OpenAI: Strengthening the fight against online child sexual abuse with new tools and support, 16.11.2026.
- OpenAI Help Center: CSAM warnings and account suspensions in ChatGPT, 16.11.2026.
- OpenAI API: CSAM guidance, 16.11.2026.
- TechCrunch: OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM, 16.11.2026.
- The Hill: New OpenAI tool flags AI-generated child sexual abuse material, 16.11.2026.
- Mashable: New OpenAI tool aims to detect child sexual abuse, 16.11.2026.
- MediaNama: OpenAI releases new classifier to detect CSAM, AI-generated images, 16.11.2026.
- Windows Report: OpenAI launches new AI tool to detect AI-generated CSAM, adds 24-hour ChatGPT suspensions, 16.11.2026.
Vastuuvapauslauseke: Tämä artikkeli on tarkoitettu vain tiedotustarkoituksiin. Sitä ei tarjota tai ole tarkoitettu käytettäväksi oikeudellisena, verotuksellisena, sijoitus-, rahoitus- tai muuna neuvona.
Mainos: alla on kumppanimainoksia ja mainoslinkkejä.

