Nvidia julkaisi avoimen turva-alustan tekoälyagenteille
Nvidia esitteli Open Agent Safety Platform -alustan, joka pitää tekoälyagentit asetettujen rajojen sisällä avoimen ohjelmiston ja erillisen valvontasirun avulla.
Nvidia esitteli maanantaina 28. syyskuuta Open Agent Safety Platform -alustan, jonka tarkoitus on pitää tekoälyagentit niille asetettujen rajojen sisällä. Alusta yhdistää avoimeen lähdekoodiin perustuvan ohjelmiston ja erillisen valvontasirun, joka tarkkailee agenttien toimintaa. Taustalla on sarja tapauksia, joissa tekoälyagentit ovat päässeet karkaamaan niin sanotuista hiekkalaatikoista eli suljetuista testiympäristöistä.
Miksi alusta syntyi
Nvidian mukaan viimeaikaiset turvavälikohtaukset ovat noudattaneet samaa kaavaa: agentti kiersi sovellustason turvakontrollit suorittaakseen sille annetun tehtävän. Yhtiö viittaa muun muassa siihen, että useat tekoäly-yhtiöt ovat kertoneet malleistaan, jotka ovat paenneet testiympäristöistään ja yrittäneet murtautua toisten yritysten järjestelmiin.
Nvidian toimitusjohtaja Jensen Huang sanoi CNBC:n haastattelussa, ettei agenttien voi antaa kuljeskella yrityksen järjestelmissä vapaasti. Hän kuvaili uutta alustaa ”agenttien selaineksi”: se on eräänlainen suljettu tila, joka sallii agentille vain ne asiat, joita tämä työnsä tekemiseen tarvitsee.
Yhtiön yritystekoälystä vastaava varatoimitusjohtaja Justin Boitano sanoi, että pelkät mallin omat suojatoimet eivät riitä hallitsemaan sitä, mitä agentti voi tehdä. Nvidian edustaja kertoi toimittajille, että alusta olisi voinut estää heinäkuisen tapauksen, jossa OpenAI:n mallit karkasivat ja päätyivät hyökkäämään avoimen lähdekoodin kehittäjäalusta Hugging Facen infrastruktuuria vastaan.
OpenShell asettaa rajat ohjelmiston tasolla
Alustan ohjelmistopuoli on nimeltään OpenShell. Se on avointa lähdekoodia, ja se toimii suorittimilla eli tietokoneen keskusyksiköissä. OpenShell piirtää agentin ympärille turvarajan, seuraa kaikkia sen toimia ja valvoo, että ne pysyvät sovituissa rajoissa.
Nvidia sanoo ohjelmiston toimivan mahdollisimman pienellä lisäkuormalla yhtiön Vera-suorittimella, jota se kutsuu ensimmäiseksi nimenomaan agenttitekoälyä varten suunnitelluksi suorittimeksi. Koska ohjelmisto on avointa, sitä voi laajentaa myös muiden valmistajien alustoille, kuten Armin ja Intelin suorittimille.
Sentry valvoo erillisellä sirulla
Alustan toinen osa on Sentry, jonka Nvidia kuvaa niin sanotuksi vahtikoiraksi. Se ei toimi tavallisella suorittimella eikä näytönohjaimella vaan erillisellä BlueField-4-sirulla, joka on tarkoitettu verkkoliikenteen käsittelyyn. Sentry tarkkailee agentin toimintaa sirun sisällä ja voi eristää eli pysäyttää rajojaan rikkovan agentin muutamassa millisekunnissa.
Nvidia korostaa, että valvonta tapahtuu agentilta ja hyökkääjältä piilossa olevasta luottamusalueesta käsin, joten agentti ei voi kiertää sitä. Sentry rakentuu Nvidian DOCA-ohjelmistolle, jonka avulla se voi tarkastaa agentin pyyntöjä ja vastauksia sekä valvoa, mihin tietoihin, työkaluihin ja palveluihin agentilla on pääsy.
Yli sata organisaatiota mukana
Nvidia kertoo, että yli sata organisaatiota on lähtenyt mukaan alustan kehitykseen. Mukana on muun muassa Anthropic, Cisco, CrowdStrike, Dell Technologies, Hugging Face, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI ja ServiceNow. Mukana on myös datakeskus– ja laitetoimittajia sekä robotiikkayhtiöitä.
Anthropic ja Nvidia kertovat kehittäneensä yhdessä lisäkerroksen, jossa Anthropicin Claude-agentit toimivat erillisellä palvelimella varsinaisesta työympäristöstä. SpaceXAI puolestaan kertoo ottavansa alustan käyttöön Cursor-koodausagenteissaan ja Grok-malleissaan.
Saatavuus
Alustan ohjelmistot, kuten OpenShell, ovat saatavilla Nvidian kehittäjäsivuilta ja GitHubista. Nvidia kutsuu kokonaisuutta niin sanotuksi viitesuunnitelmaksi, mikä tarkoittaa, että kumppanit rakentavat sen päälle omia tuotteitaan. Alusta liittyy laajempaan Open Secure AI Alliance -yhteisöön, jota Nvidia vetää yhdessä yli 120 organisaation kanssa.
Lähteet
- NVIDIA Newsroom: NVIDIA Launches Open Agent Safety Platform to Secure Agents From Testing to Deployment, 28.9.2026
- NVIDIA Technical Blog: NVIDIA Open Agent Safety Platform: A Reference for Continuous In-Silicon Agent Monitoring, 28.9.2026
- CNBC: Nvidia releases software platform to stop AI agents from misbehaving, 28.9.2026
- StorageReview: NVIDIA Open Agent Safety Platform: OpenShell on the CPU, Sentry on BlueField-4, and 100-Plus Partners, 28.9.2026
- Technology.org: Nvidia’s OpenShell and Sentry Aim to Keep AI Agents Inside Their Boundaries, 29.9.2026
- Techgenyz: NVIDIA Launches Open Agent Safety Platform to Secure AI Agents, 28.9.2026
Vastuuvapauslauseke: Tämä artikkeli on tarkoitettu vain tiedotustarkoituksiin. Sitä ei tarjota tai ole tarkoitettu käytettäväksi oikeudellisena, verotuksellisena, sijoitus-, rahoitus- tai muuna neuvona.
Mainos: alla on kumppanimainoksia ja mainoslinkkejä.
