TypeSafe julkisti Jev-tekoälymallin

TypeSafe julkisti Jev-tekoälymallin

Yhdysvaltalainen TypeSafe AI julkaisi 15. syyskuuta tekoälymallin nimeltä Jev. Se ei kirjoita tekstiä eikä keskustele, vaan vastaa ohjelman esittämiin kysymyksiin valmiiksi määritellyillä vaihtoehdoilla ja todennäköisyyksillä. Yhtiön omien mittauksien mukaan malli on kymmeniä kertoja nykyisiä kielimalleja nopeampi ja halvempi. Jev on herättänyt poikkeuksellisen vilkasta kiinnostusta ohjelmistokehittäjien keskuudessa.

Mikä Jev on?

TypeSafe AI on San Franciscon seudulla toimiva tekoälylaboratorio, jonka perusti vuonna 2024 Diogo Almeida. Hän työskenteli aiemmin OpenAI:lla ja oli mukana kehittämässä menetelmää, jolla kielimalleista tehtiin avuliaita ja kohteliaita – samaa tutkimusta, jonka pohjalle ChatGPT lopulta rakennettiin. Yhtiö kertoi 15. syyskuuta tulleensa ulos piilokehityksestä (englanniksi stealth) ja keränneensä 40 miljoonaa dollaria siemenrahoitusta. Samalla se julkaisi ensimmäisen mallinsa Jevin.

TypeSafe kutsuu Jeviä niin sanotuksi System One -malliksi. Kyse ei ole yhdestä ominaisuudesta vaan malliluokasta, joka on tehty tekemään nopeita ja jäsenneltyjä päätöksiä muun ohjelman sisällä. Tavallinen kielimalli tuottaa tekstiä; Jev tuottaa päätöksiä.

Käytännössä malli toimii näin: ohjelma antaa sille niin sanotun tilan (esimerkiksi asiakaspalveluun tulleen viestin tiedot) ja joukon kysymyksiä, joiden vastausvaihtoehdot on määritelty etukäteen. Jev palauttaa yhteen kysymykseen kyllä–ei-todennäköisyyden, toiseen valinnan annetuista vaihtoehdoista ja kolmanteen arvosanan asteikolla. Jokaiseen vastaukseen liittyy arvio siitä, kuinka varma mallin oma vastaus on.

Koska mahdolliset vastaukset lyödään lukkoon etukäteen, malli ei voi tuottaa mitään muuta kuin niitä. TypeSafen mukaan Jev ei siksi voi keksiä asioita eli hallusinoida, ja niin sanotut tyyppivirheet ovat mahdottomia, koska vastausten muoto on taattu. Yhtiö myöntää itse, että tämä luku ei perustu mittaukseen vaan siihen, että asia on rakenteellisesti varmaa. Mallin arkkitehtuuria ei ole julkaistu, ja ulkopuoliset ovat arvelleet sen nojaavan johonkin valmiiseen avoimeen malliin.

Näin Jev eroaa ChatGPT:stä

Jevin taustalla on Transformer, sama laskenta-arkkitehtuuri, jolle lähes kaikki nykyiset kielimallit rakentuvat. Ero on siinä, mitä malli tekee ja miten.

Kielimalli tuottaa vastauksensa sana kerrallaan, peräkkäin, ja joutuu jatkuvasti katsomaan, mitä on jo kirjoittanut. Jev sen sijaan vastaa kaikkiin kysymyksiin yhdellä kertaa, rinnakkain. Sen takia vastauksen saaminen on nopeaa ja laskenta halpaa. Malli ei kirjoita yhtään sanaa, joten sen vastausta ei tarvitse jäsentää eikä tulkita tekstistä.

Helpoin tapa ymmärtää ero on ajatella Jeviä älykkäänä ehtolauseena. Tavallinen ohjelmakoodi osaa päättää asioita, jotka tietokone pystyy laskemaan: jos tilauksen summa on yli sata euroa, tee näin. Se ei osaa päättää, onko asiakkaan viesti vihainen tai kumpi kahdestatoista painikkeesta pitäisi painaa. Juuri sellaisiin harkintaa vaativiin kohtiin Jev on tarkoitettu.

Siksi Jev ei myöskään toimi itsenäisesti: se ei ota vastaan vapaamuotoista toimeksiantoa, ei selaa verkkoa, ei muokkaa tiedostoja eikä jatka työtä omin päin. Se on pieni osa tavallista ohjelmaa, jota kutsutaan rajapinnan kautta. Ohjelmoija määrittelee kysymykset ja sen, mitä vastauksilla tehdään.

Nopeus ja hinta ovat myyntivaltit

TypeSafen oman vertailun mukaan Jevin vastaus valmistuu 70–500 millisekunnissa. Yhtiö vertaa tätä raskaisiin kielimalleihin, joiden vastausajat ovat sen esittämässä aineistossa kolmesta sekunnista yli viiteen minuuttiin. Nopeusero on yhtiön mukaan 40–200-kertainen ja hintaero 40–400-kertainen.

Hinnoittelu on poikkeuksellinen. Syötteen hinta on 0,042 dollaria miljoonasta tokenista eli tekstinpätkästä, ja vastaukset ovat ilmaisia – yhtiön mukaan niin halpoja, ettei niitä kannata mitata. TypeSafen omassa työnkulkujen vertailussa luvut olivat vielä suurempia: 193,6 kertaa nopeampi ja 444,6 kertaa halvempi.

Lukuihin kannattaa suhtautua varauksella. Ne ovat yhtiön omia mittauksia eivätkä riippumattoman tahon tekemiä. Vertailukohtana TypeSafe käyttää kahden suuren kielimallin, GPT-6 Astran ja Claude Fable 5.1:n, vastausten keskiarvoa. Saksalainen teknologiajulkaisu heise huomauttaa, että arviot tulevat yhtiöltä itseltään. TypeSafe myöntää myös itse, ettei se voi todistaa, ettei sen hinta ole tuettua.

Kehittäjät innostuivat nopeasti

Kiinnostus oli niin suurta, että yhtiö menetti hetkeksi kyvyn palvella käyttäjiään rajapintansa kautta, kertoo TechCrunch. Ohjelmistokehittäjät ovat kuvailleet Jeviä tavaksi lisätä tekoälyä koodiin nykyistä halvemmalla ja luotettavammin.

Ohjelmistoyhtiö Vercelin insinööri Pranit Sharma kertoi korvanneensa yhtiön komentojen turvatarkistuksessa käyttämän kielimallin Jevillä. Tulokset nopeutuivat 5–18-kertaisesti ja tarkkuus parani. Bryo AI:n teknologiajohtaja Nikhil Mudholkar testasi Jeviä yrityssähköpostien luokittelussa Geminin kanssa: Gemini oli hieman tarkempi mutta 10–20 kertaa kalliimpi. Mudholkarin mukaan arvokkainta oli kuitenkin se, että Jev palauttaa aidon todennäköisyyden, jolle ohjelma voi rakentaa automaation.

Jevin vahvuus on samalla sen rajoite. Avoimen lähdekoodin Pi-työkalun kehittäjän Earendilin teknologiajohtaja Armin Ronacher huomauttaa, että varmuustaso siirtää vastuun käyttäjälle: ohjelmoijan pitää itse päättää, että 50 prosentin varmuus on kolikonheitto ja jätetään huomiotta, kun taas 95 prosentin varmuudella voi tehdä jotain.

Yleisimpiä käyttötapoja ovat pyyntöjen ohjaaminen oikeaan paikkaan, tekoälyn vastausten tarkistaminen ja niin sanotut turvakaiteet, jotka estävät toista mallia tekemästä kiellettyä asiaa. Heise nostaa esimerkiksi asiakaspalvelun: yksinkertainen kysymys tilauksen tilasta voidaan hoitaa tavallisella ohjelmakoodilla, tuotekysymys kielimallilla ja epävarma tapaus ihmisellä. Myös tekoälyagenttien valvonta on mainittu mahdollisena käyttönä. Yhtiö on esitellyt mallia myös pelaamalla Doomia ja Minecraftia.

Epäilykset ja avoimet kysymykset

TypeSafe ei kerro Jevin arkkitehtuurista yksityiskohtia. Yhtiön mukaan malli on opetettu kokonaan synteettisellä eli itse tuotetulla aineistolla menetelmällä, jota se kutsuu nimellä RLCD (Reinforcement Learning for Calibrated Decisions, vapaasti suomeksi vahvistusoppiminen kalibroituihin päätöksiin). Menetelmä on sukua vahvistusoppimiselle, jossa malli oppii yrityksen ja erehdyksen kautta saamastaan palautteesta. Tavoitteena on, että mallin ilmoittama todennäköisyys vastaa mahdollisimman hyvin todellista osumatarkkuutta.

Heise huomauttaa, että mallin päätökset ovat kyllä luettavissa, mutta malli ei selitä niitä sanallisesti. Mitä useammin tällaiset järjestelmät tekevät päätöksiä muun ohjelman sisällä, sitä tärkeämmäksi muodostuu kysymys siitä, miten hyvin niiden toimintaa voi ymmärtää ja valvoa.

Almeida suhtautuu itse epäilyksiin rauhallisesti. Hänen mukaansa yhtiön tavoite ei ole rakentaa chatbottia eikä kilpailla keskustelumallien kanssa, vaan tehdä älykkyydestä niin halpaa, että sitä voi upottaa kaikkialle ohjelmistoihin. Malli on nimetty 1800-luvun ekonomisti William Stanley Jevonsin mukaan: hänen mukaansa hyödykkeen hinnan lasku johtaa sen käytön lisääntymiseen, ei vähenemiseen.

TypeSafe aikoo julkaista mallista uusia versioita ja laajentaa sitä uusiin sisältömuotoihin. Jev on tällä hetkellä saatavilla varhaiskäytössä verkkopalvelun kautta. Ronacherin mukaan kilpailijoita syntyy varmasti, kun mallin hyödyllisyys on käynyt selväksi. Hänen mielestään merkki siitä, että tällainen ratkaisu olisi pitänyt keksiä aiemmin, on se, että nykyiset kielimallit ovat olleet niin halpoja, ettei kukaan ole vielä joutunut olemaan kekseliäs.

Lähteet

AI Uuutiset Toimitus

, , , , , , ,

Vastaa

Pakolliset kentät on merkitty *

Powered by

Share with

Twitter/XPinterestRedditMastodonThreadsEmailPrintFlipboardFlipboardHacker NewsLineWeChatSnapchatMixMixPocketGoogle MessagesSMSTumblrTumblrXingXINGVKVKontakteBufferBufferYummlyNextdoorGrocyGabFacebookWhatsAppLinkedInTelegramMessengerBluesky