Google esitteli päätösmallin, joka arvioi tuhat kysymystä yhdellä kertaa

0

Google DeepMind julkaisi Gemini Decision 1 -mallin, joka arvioi jopa tuhat kysymystä yhdellä kertaa ja palauttaa todennäköisyydet 150–250 millisekunnissa. Hinta on 0,10 dollaria miljoonalta syötetokenilta.

Googlen kyltti Mountain View'n kampuksella Kaliforniassa

Kuva: Dietmar Rabich / Wikimedia Commons, CC BY-SA 4.0

Google DeepMind esitteli 11. marraskuuta Gemini Decision 1 -mallin ja siihen perustuvan Decisions-ohjelmointirajapinnan. Sen avulla ohjelma voi kysyä mallilta jopa tuhat kyllä/ei-, monivalinta- tai arviointikysymystä yhdellä kertaa ja saada vastaukset todennäköisyyksineen 150–250 millisekunnissa. Malli ei kirjoita vastausta vaan pisteyttää valmiiksi annetut vaihtoehdot, ja hinta on 0,10 dollaria miljoonalta syötetokenilta.

Vastauksen sijaan malli antaa todennäköisyyden

Kyse on uudenlaisesta malliluokasta, jota voisi kutsua päätösmalliksi. Tavallinen kielimalli tuottaa tekstiä sana sanalta, mutta Gemini Decision 1 käy syötteen läpi kerran ja laskee jokaiselle kysymykselle todennäköisyyden sille, että jokin ehto täyttyy. Yksi syöte voi sisältää tekstiä, kuvia, ääntä, videota ja PDF-tiedostoja, ja kysymyksiä voi olla samassa pyynnössä jopa tuhat.

Kysymyksiä on kolmenlaisia. Kyllä/ei-kysymys palauttaa todennäköisyyden sille, että ehto pitää paikkansa. Monivalintakysymys valitsee 2–255 vaihtoehdon joukosta voittajan ja kertoo jokaisen vaihtoehdon todennäköisyyden. Arviointikysymys antaa painotetun pistemäärän kehittäjän määrittelemällä asteikolla. Jokaisessa vastauksessa on lisäksi luottamusluku väliltä 0–1, joten ohjelma voi ohjata epäselvät tapaukset ihmisen tarkistettaviksi.

Syöte voi olla enintään noin 256 000 tokenia eli tekstinpätkää. Rajoitus koskee yhteistä aineistoa sekä kaikkien kysymysten ohjeita ja vaihtoehtoja yhdessä. Kysymykset arvioidaan toisistaan riippumatta, joten jos toinen päätös riippuu ensimmäisestä, riippuvuus pitää hoitaa ohjelmakoodissa tai erillisellä jatkokutsulla.

Kymmenen senttiä miljoonalta tokenilta, tuloste ilmaiseksi

Hinnoittelu on poikkeuksellisen yksinkertainen: 0,10 dollaria miljoonalta syötetokenilta ja nolla dollaria tulostokeneilta. Jaettu syöte laskutetaan kerran riippumatta siitä, kuinka monta kysymystä siihen liittyy; jokainen kysymys lisää vain omat ohjeensa ja vaihtoehtonsa tokeneihin.

Käytännön ero on suuri. VentureBeat laski esimerkin, jossa 4 000 tokenin asiakirjaan liitetään 20 tarkistusta, kukin 50 tokenia. Yhdellä 5 000 tokenin pyynnöllä tuhat asiakirjaa maksaa noin 0,50 dollaria. Jos sama aineisto lähetettäisiin 20 erillisenä kutsuna, hinta olisi noin 8,10 dollaria tuhannelta asiakirjalta ennen uudelleenyrityksiä.

Google AI Studiossa on ilmainen kiintiö prototyyppien rakentamiseen. VentureBeatin mukaan ilmaistaso sallii 200 pyyntöä ja 50 000 syötetokenia minuutissa. Malli on saatavilla myös OpenRouterissa ja Vercelin AI Gateway -palvelussa, ja tuki Gemini-palveluun Google Cloudissa on tulossa myöhemmin.

JevBenchissä 92,2 prosenttia, mutta ei kärjessä kaikkialla

Google vertaili mallia omassa julkaisussaan. Gemini Decision 1 voitti viisi seitsemästä testistä, jotka kaikki neljä vertailtua mallia suorittivat. Se sai JevBench-testissä 92,2 prosenttia, kun OpenAI:n GPT-6 Luna ylsi 90,9 prosenttiin ja TypeSafen Jev 1.14 90,0 prosenttiin. Kuvallisten verkkotehtävien Mind2Web Multimodal -testissä Jev oli hieman edellä 86,8 prosentilla Gemini Decision 1:n 86,2 prosentista, ja työkalujen käyttöä mittaavassa When2Call-testissä Jev sai 82,0 prosenttia Geminin 79,9:ää vastaan.

Riippumaton Artificial Analysis -vertailu sijoitti Gemini Decision 1:n kahdeksastoista mallista yhdeksänneksi heti julkaisun jälkeen. Sen päätösindeksin pistemäärä oli 65,98, kun Drex Max v1.1 sai 72,62, Jev 66,23 ja GPT-6 Luna 60,25. Gemini oli nopeudessa kilpailukykyinen 211 millisekunnin keskiajalla, mutta Jev oli selvästi nopeampi 92 millisekunnilla ja halvempi tekstin reitityksessä, jossa sen hinta on 0,042 dollaria miljoonalta syötetokenilta.

Yksi Googlen vahvuuksista on kalibraatio eli se, kuinka hyvin mallin oma luottamus vastaa sen todellista tarkkuutta. Googlen mukaan Gemini Decision 1:n kalibraatiovirhe oli 0,0250, kun Jevillä se oli 0,0494. Jos sovellus lähettää ihmiselle kaikki tapaukset, joissa luottamus jää alle kynnyksen, pienempi virhe tarkoittaa vähemmän turhia tarkistuksia.

Gemini Notebook reitittää kyselyt 40 prosenttia nopeammin

Google ei esittele mallia vain ulkoisille kehittäjille. Yhtiön mukaan Gemini Notebook käyttää Decisions-rajapintaa reitittimenä, joka valitsee jokaiselle kyselylle sopivan mallitason ja päättelysyvyyden. Arkikyselyt saadaan siten jopa 40 prosenttia nopeammiksi, ja raskaat mallit säästetään vaikeisiin tehtäviin.

Muita esimerkkejä ovat Stitch-työkalun nopea suunnittelukokeilu, Google Labsin CC-sovellus, joka valitsee yli 200 emojin joukosta sopivan reaktion sekunnin murto-osassa, sekä Googlen haku, joka käyttää päätösmallia MCP-työkalujen turvakerroksena hyökkäysyritysten tunnistamiseen. Kaikissa tapauksissa yhteistä on, että valinta on rajattu joukko vaihtoehtoja eikä avoin tekstintuotto.

Suomalainen agenttikehittäjä voi korvata kalliin luokittelukutsun

Tekoälyagentit eli itsenäisesti tehtäviä suorittavat ohjelmat tarvitsevat jatkuvasti pieniä päätöksiä: mihin jonoon viesti kuuluu, tarvitaanko lisätietoja, pitääkö tapaus siirtää ihmiselle. Tähän asti nämä on hoidettu joko erikseen koulutetuilla luokittelijoilla tai kutsumalla kallista kielimallia, joka kirjoittaa vastauksen. Päätösmalli voi korvata osan näistä kutsuista halvemmalla ja nopeammin.

Suomalaisille ohjelmistoyrityksille malli on ennen kaikkea uusi rakennuspalikka, ei itsessään tuote. Se sopii esimerkiksi asiakaspalvelun reititykseen, laskujen ja lomakkeiden tarkistamiseen sekä agentin työkalun valintaan. Google huomauttaa, että maksullisen ja ilmaisen tason tietojenkäsittelyehdot eroavat toisistaan: maksullisen palvelun syötteitä ja vastauksia ei käytetä tuoteparannukseen, kun taas ilmaistasolla käyttö on sallittua tietyin alueellisin poikkeuksin. Henkilötietoja käsittelevän yrityksen kannattaa siksi tarkistaa ehdot ennen tuotantokäyttöä.

Sanasto: päätösmalli, tokeni ja kalibraatio

Päätösmalli on tekoälymalli, joka ei tuota tekstiä vaan valitsee tai pisteyttää valmiiksi annettuja vaihtoehtoja. Sitä käytetään, kun vastaus on rajattu joukko: kyllä tai ei, yksi monesta tai arvosana asteikolla.

Tokeni on tekstinpätkä, jonka kielimalli käsittelee yhtenä yksikkönä. Se voi olla sana, osa sanaa tai välimerkki. Hinnoittelu lasketaan yleensä tokeneina, koska mallin laskentatyö riippuu niiden määrästä.

Kalibraatio tarkoittaa sitä, että mallin ilmoittama luottamus vastaa sen todellista osumatarkkuutta. Jos malli sanoo olevansa 90-prosenttisen varma, kalibroitu malli on oikeassa noin 90 prosentissa tapauksista.

Ohjelmointirajapinta eli API on sovittu tapa, jolla yksi ohjelma pyytää toiselta ohjelmalta toimintoa. Tässä tapauksessa sovellus lähettää aineiston ja kysymykset Googlelle ja saa takaisin todennäköisyydet.

Lähteet


Vastuuvapauslauseke: Tämä artikkeli on tarkoitettu vain tiedotustarkoituksiin. Sitä ei tarjota tai ole tarkoitettu käytettäväksi oikeudellisena, verotuksellisena, sijoitus-, rahoitus- tai muuna neuvona.

Mainos: alla on kumppanimainoksia ja mainoslinkkejä.

Kvarn X – kryptot, osakkeet ja ETF:t samassa paikassa

Coinmotion – suomalainen kryptopalvelu vuodesta 2012

Leave a Reply

Pakolliset kentät on merkitty *