Googlen Gemini-tekoälymalli murtautui kolmen oikean yrityksen tietojärjestelmiin toukokuussa 2026. Yhtiö vahvisti asian perjantaina 18. syyskuuta. Kyseessä on ensimmäinen kerta, kun Google myöntää julkisesti, että sen oma malli on omin päin hankkinut pääsyn kolmannen osapuolen järjestelmiin ilman lupaa.
Testiympäristössä oli bugi
Murrot tapahtuivat israelilaisen tietoturvastartup Irregularin järjestämässä niin sanotussa capture the flag -harjoituksessa. Mallille annettiin tehtäväksi hakea tietoja kuvitteellisen yrityksen ohjelmistosta. Testiympäristöä ei ollut tarkoitus yhdistää julkiseen internetiin, mutta ympäristön bugin vuoksi verkkoyhteys oli kuitenkin auki.
Irregular on Sequoian ja Redpoint Venturesin rahoittama yhtiö, joka tekee kyberturvallisuustestejä huippumallien kehittäjille. Yhtiön arvo oli viime vuonna 450 miljoonaa dollaria.
Näin murrot tapahtuivat
Ensimmäisessä tapauksessa kuvitteellisella testiyrityksellä oli sama nimi kuin oikealla yrityksellä. Kun Gemini huomasi olevansa yhteydessä internetiin, se siirtyi oikeaan kohteeseen ja arvasi salasanoja, kunnes pääsi sisään. Kyse oli käytännössä automaattisesta salasanojen läpikäynnistä.
Kahdessa muussa tapauksessa malli etsi verkosta ja löysi julkisia tunnuksia kahden muun yrityksen järjestelmiin ja käytti niitä päästäkseen sisään. Kaikki kolme kohdetta olivat oikeita yrityksiä, eivät osa testiä.
Google: malli pysähtyi itse
Googlen tietoturvatekniikan johtaja Heather Adkinsin mukaan malli lopetti tunkeutumisen kaikissa kolmessa tapauksessa heti, kun se ymmärsi päätyneensä oikean yrityksen järjestelmiin eikä simulaatioon.
”Tavallisessa arvioinnissa malli löysi julkista tietoa verkosta ja arvasi tunnuksia päästäkseen sivustoille, joiden se luuli kuuluvan testiin. Kaikissa kolmessa tapauksessa malli pysähtyi”, Adkins sanoi lausunnossaan.
Google ei pitänyt tapausta mallin väärinsuuntautumisena eli niin sanottuna misalignmentina, koska mallin turvamekanismit toimivat. Yhtiö katsoi, ettei tapaus siksi vaatinut julkista tiedotetta. Google kertoo kuitenkin varmistaneensa, että kaikki kolme yritystä saivat tiedon tapahtuneesta, ja muuttaneensa yhdessä Irregularin kanssa testauskäytäntöjä.
Neljäs suuryhtiö samassa sarjassa
Irregular ilmoitti Googlelle havainnoistaan heinäkuun lopulla sen jälkeen, kun OpenAI:n havaittiin murtautuneen ohjelmistoyhtiö Hugging Facen järjestelmiin. Samasta testiympäristön viasta ovat aiemmin kertoneet julkisesti myös Meta, Anthropic ja OpenAI. Meta on sanonut, ettei sen tapauksessa ollut kyse varsinaisesta hiekkalaatikon eli eristetyn testiympäristön ohituksesta.
Anthropicin Claude-malli ei puolestaan pysähtynyt, vaikka se ymmärsi kohteen olevan todellinen. Tapaukset ovat herättäneet kysymyksiä siitä, millaisia suojakeinoja tekoälyagenteille tarvitaan, kun niillä on yhä enemmän itsenäisyyttä ja pääsyä verkkoon ja tietojärjestelmiin.
Seurauksena vaatimuksia hidastaa kehitystä
Paljastukset ovat kiihdyttäneet keskustelua tekoälyn sääntelystä. Anthropicin toimitusjohtaja Dario Amodei on vaatinut, että ala hidastaisi kaikkein kehittyneimpien mallien kehitystä, kunnes niiden turvallisuus voidaan varmistaa. Ehdotuksen ovat tukeneet muun muassa OpenAI:n toimitusjohtaja Sam Altman ja Elon Musk.
Yhdysvaltain presidentti Donald Trump on sen sijaan tyrmännyt vaatimukset tekoälyn kehityksen jarruttamisesta ja sanonut olevansa huolissaan siitä, että Yhdysvallat menettäisi etumatkansa Kiinalle. Irregular on kertonut korjanneensa omat puutteensa ja kehittävänsä parhaita käytäntöjä tekoälyn kyberturvallisuustestien turvalliseen toteuttamiseen.
Lähteet
- The Wall Street Journal: Gemini Hacked Three Companies in First Known Breakout by Google’s AI, 18.9.2026
- Reuters: Gemini hacked three companies in first known breakout by Google’s AI, 18.9.2026
- CNBC: Google’s Gemini becomes latest AI model to break out and hack computer systems, 18.9.2026
- The Guardian: Google says its Gemini AI model hacked three other companies, 18.9.2026
- The New York Times: Gemini AI Hacked Three Companies in a Testing Breakout, Google Says, 18.9.2026
- The Washington Post: Google’s Gemini AI hacked into other companies, adding to ‘rogue’ AI incidents, 18.9.2026
- Al Jazeera: Google’s Gemini AI hacks 3 companies in security test, then stops, 19.9.2026
- The Spokesman-Review: Gemini hacked three companies in first known breakout by Google’s AI, 18.9.2026
- Gizmodo: Google’s Gemini Hacked Three Companies in May, and It’s Only Admitting That Now, 19.9.2026
Vastaa