Meta julkaisi Muse Emberin, halvan mallin agenttien massatyöhön

0

Meta julkaisi maanantaina 9. marraskuuta Muse Ember -mallin, jonka yhtiö kuvaa pienimmäksi ja tehokkaimmaksi mallikseen. Se on tarkoitettu työhön, jota tekoälyagentit toistavat päivästä toiseen, ja maksaa 0,10 dollaria miljoonalta syötetokenilta.

Metan pääkonttorin rakennus Menlo Parkissa Kaliforniassa.

Kuva: InvadingInvader, Wikimedia Commons, CC BY-SA 4.0

Meta julkaisi maanantaina 9. marraskuuta Muse Ember -mallin, jonka yhtiö kuvaa pienimmäksi ja tehokkaimmaksi mallikseen. Se on tarkoitettu työhön, jota tekoälyagentit toistavat päivästä toiseen: työkalukutsuihin, koodauksen osatehtäviin, tiedon poimintaan ja pitkien asiakirjojen läpikäyntiin. Malli maksaa 0,10 dollaria miljoonalta syötetokenilta.

Kymmenen senttiä miljoonalta syötetokenilta

Muse Emberin hinta on 0,10 dollaria miljoonalta syötetokenilta ja 0,50 dollaria miljoonalta vastaustokenilta. Välimuistiin tallennettu syöte maksaa 0,004 dollaria miljoonalta tokenilta. Yli 200 000 tokenin syötteissä hinta nousee: silloin syöte maksaa 0,30 ja vastaus 1,50 dollaria miljoonalta tokenilta.

Tokeni on tekstinpätkä, jonka kielimalli käsittelee yhtenä yksikkönä. Se voi olla kokonainen sana, osa sanaa tai välimerkki, ja palveluiden hinnat ilmoitetaan yleensä tokeneina.

Meta vertaa mallia suoraan Anthropicin Claude Haiku 5.5:een ja OpenAI:n GPT-6 Lunaan. Yhtiön mukaan Muse Ember yltää Haikun parhaaseen tulokseen noin kolmanneksella hinnasta ja päihittää GPT-6 Lunan kaikilla päättelyasetuksilla. Riippumaton Artificial Analysis -arviointi antaa Muse Emberille 36 pistettä, Haiku 5.5:lle 36 ja GPT-6 Lunalle 28. Yhden arviointitehtävän hinnaksi Artificial Analysis laskee Muse Emberillä 0,14 dollaria, kun Metan oma Muse Spark -malli maksaa 2,39 dollaria.

Malli on saatavilla Meta Model API:ssa nimellä muse-ember-1.0 sekä Muse Code -palvelussa, Google Cloudissa ja Oracle Cloudissa.

Miljoona tokenia sisään, 512 000 ulos

Muse Emberin konteksti-ikkuna on miljoona tokenia, ja se voi tuottaa vastausta jopa 512 000 tokenia. Metan mukaan malli pystyy siksi ottamaan kerralla vastaan kokonaisen koodikannan tai laajan asiakirja-aineiston.

Malli on multimodaalinen: se ymmärtää tekstin lisäksi kuvia, ääntä ja videota. Agentti voi siis lukea kuvakaappauksia, kaavioita ja skannattuja asiakirjoja tai työskennellä äänimuistioiden ja kokousäänitteiden pohjalta ilman erillistä mallia.

Halvin ei ole paras kaikissa testeissä

Meta perustaa väitteensä benchmarkeihin eli vakiomuotoisiin testteihin, joilla malleja verrataan. Yhtiön oman vertailun mukaan Muse Ember voittaa Haikun ja Lunan useimmissa testissä. Ero on suurin yritystyön automaatiossa: AutomationBench-testissä Muse Ember saa 37,8 pistettä, Haiku 13,9 ja Luna 20,2.

Kaikissa testeissä etu ei kuitenkaan ole selvä. Ohjelmistotyön FrontierCode 2.0 -testissä Haiku saa 34,9 pistettä ja Muse Ember 27,2. Pitkien asiakirjojen GDP.pdf-testissä Muse Ember ja GPT-6 Luna ovat tasoissa 22,8 pisteessä. SiliconANGLE laski, että Muse Ember voitti kilpailijat yhdeksästä testistä seitsemässä, ja suurin etu oli AutomationBenchissä, jossa ero oli 17 prosenttiyksikköä.

Kannattaa huomata, että suurin osa luvuista on Metan itsensä ilmoittamia. Riippumaton Artificial Analysis vahvistaa kokonaisindeksin 36 pistettä ja hinnan tehtävää kohden, mutta ei kaikkia yksittäisiä testituloksia.

Muse Wonder suunnittelee, Ember hoitaa massan

Muse Ember on neljäs Metan Muse-nimellä julkaisema malli. Aiemmin ovat ilmestyneet keskikokoinen Muse Spark, sen avoimen lähdekoodin sisarmalli Glimmer ja lokakuussa huippumalli Muse Wonder. Muse Ember on ensimmäinen malli, jonka Meta kertoo opettaneensa Muse Wonder Fullin avulla.

Yhtiö kuvaa mallien työnjaon yksinkertaisesti: Muse Wonder suunnittelee ja Muse Ember hoitaa volyymin. Käytännössä suurempi malli jakaa tehtävän osiin ja halvempi malli toistaa samat säännöt tuhansissa tapauksissa. Metan mukaan tällainen pari sopii esimerkiksi asiakaspalveluun, jossa isompi malli päättää toimintatavat ja pienempi soveltaa niitä massoittain.

Meta kertoo arvioineensa Muse Emberin turvallisuutta samalla kehyksellä kuin suuremmat mallinsa ja todenneensa sen jäävän alle korkean riskin rajojen muun muassa kemiallisen ja biologisen riskin, kyberturvallisuuden ja hallinnan menettämisen osalta. Yhtiön mukaan mallia testattiin myös siinä, että se noudattaa käyttäjän tarkoitusta, käsittelee arkaluonteisia tietoja asianmukaisesti ja pyytää ihmisen hyväksynnän ennen merkittäviä toimia.

Sanasto: tokeni, konteksti-ikkuna ja benchmark

Tokeni on tekstinpätkä, jonka malli käsittelee yhtenä yksikkönä. Konteksti-ikkuna on enimmäismäärä tekstiä, jonka malli voi ottaa huomioon yhdellä kertaa. Benchmark on vakiomuotoinen testi, jolla mitataan mallin osaamista tietyissä tehtävissä; yksi testi ei kerro koko totuutta mallin kyvyistä.

Lähteet: Meta, TechCrunch ja SiliconANGLE


Vastuuvapauslauseke: Tämä artikkeli on tarkoitettu vain tiedotustarkoituksiin. Sitä ei tarjota tai ole tarkoitettu käytettäväksi oikeudellisena, verotuksellisena, sijoitus-, rahoitus- tai muuna neuvona.

Mainos: alla on kumppanimainoksia ja mainoslinkkejä.

Kvarn X – kryptot, osakkeet ja ETF:t samassa paikassa

Coinmotion – suomalainen kryptopalvelu vuodesta 2012

Leave a Reply

Pakolliset kentät on merkitty *