Tämä opas kertoo, mitä paikallinen tekoälymalli tarkoittaa, millainen tietokone riittää, miten Unsloth Desktop asennetaan ja miten valitset koneellesi sopivan mallin.
Mitä paikallinen malli tarkoittaa
Paikallinen malli tarkoittaa, että tekoäly (LLM, large language model eli suuri kielimalli) pyörii sinun omalla tietokoneellasi, ei ChatGPT:n kaltaisella pilvipalvelimella. Viestisi ja tiedostosi eivät lähde ulkoiseen palveluun, kun käytät mallia offline-tilassa. Tarvitset silti nettiyhteyden mallin ensimmäiseen lataukseen.
Pilvipalvelussa malli on palveluntarjoajan koneilla. Saat usein vahvemman mallin ja helpon käyttöliittymän, mutta data kulkee verkon yli ja käyttö voi olla maksullista tai rajoitettua. Paikallinen käyttö sopii erityisesti yksityisyyttä arvostaville, offline-työhön ja kokeiluun ilman tilausta.
Unsloth Desktop on elokuussa 2026 julkaistu ilmainen ja avoimen lähdekoodin työpöytäsovellus Windowsille, macOS:lle ja Linuxille. Se on beta-vaiheessa. Älä sekoita sitä Unsloth Studion (selaimessa localhostissa ajettava web-käyttöliittymä) tai Unsloth Coren (Python-kirjasto koodaajille) kanssa: Desktop on oma asennettava ohjelma.
Minkälainen tietokone tarvitaan
Unsloth Desktop toimii CPU:lla (prosessori), NVIDIA-, AMD- ja Intel-näytönohjaimilla sekä Applen Silicon-Mac-koneilla. GPU ei ole pakollinen chat-käyttöön, mutta ilman näytönohjainta vastaukset voivat olla hitaita. Vanhempia laitteita valmistaja ei välttämättä tue hyvin.
Tärkeimmät käsitteet:
VRAM on näytönohjaimen oma muisti. Mitä enemmän VRAM:ia, sitä suurempia malleja voit ajaa sujuvasti.
RAM on tietokoneen työmuisti. Applen Mac-koneissa yhtenäinen muisti (unified memory) toimii sekä järjestelmä- että GPU-muistina.
Kvantisointi (esim. 4-bit, GGUF-muodot kuten UD-Q4_K_XL) pakkaa mallin pienempään kokoon. Laatu heikkenee hieman, mutta malli mahtuu tavalliseen koneeseen.
Token on mallin käsittelemä tekstinpala (osan sanaa tai sana). Konteksti-ikkuna kertoo, kuinka pitkän keskustelun tai dokumentin malli muistaa kerralla.
Levytilaa tarvitset paljon: yksittäinen kvantisoitu malli voi olla muutamasta gigatavusta kymmeniin gigatavuihin. Jätä myös tilaa järjestelmälle ja välimuistille. Aloittelijalle realistinen lähtökohta on vähintään 16 Gt RAM:ia; mukavampi kokemus tulee 32 Gt RAM:illa tai Macilla, jossa on vähintään noin 24 Gt yhtenäistä muistia. Pelikone, jossa on noin 12-16 Gt VRAM:ia, riittää jo moniin keskikokoisiin malleihin.
Unsloth Desktopin asennus askel askeleelta
Lataa asennustiedosto Unslothin viralliselta lataussivulta tai GitHub-julkaisusta (osoitteet löytyvät oppaan lopusta). Desktopin asennus ei virallisten ohjeiden mukaan vaadi erillistä Pythonia, Dockeria tai virtuaaliympäristöä.
Windows (Windows 10 tai uudempi): 1) Lataa Windows-asennusohjelma (.exe). 2) Avaa tiedosto ja seuraa asennusvelhon ohjeita. 3) Käynnistä Unsloth ja odota, että asennus valmistuu.
macOS (Apple Silicon ja Intel): 1) Lataa .dmg-tiedosto. 2) Avaa se ja raahaa Unsloth Applications-kansioon. 3) Käynnistä sovellus ja odota asennuksen valmistumista.
Linux (Ubuntu ja yhteensopivat; myös WSL): 1) Lataa .deb-paketti tai AppImage. 2) Deb: avaa paketti ja valitse Install. AppImage: tee suoritettavaksi ja käynnistä. 3) Käynnistä Unsloth ja odota asennuksen valmistumista.
Huomio: virallinen PowerShell-asennuskomento (Windows) tai curl-asennusskripti (macOS/Linux) asentaa Unsloth Studion, ei Desktop-sovellusta. Jos haluat työpöytäikkunan, käytä .exe / .dmg / .deb / AppImage -asenninta.
Sovellus tunnistaa laitteistosi ja voi ajaa malleja CPU:lla tai GPU:lla. CUDA-asennusta ei tarvitse tehdä itse vain chat-käyttöä varten Desktopissa; taustalla hyödynnetään muun muassa llama.cpp:tä ja Macilla myös MLX:ää.
Miten malli ladataan koneelle Unsloth Desktopissa
1. Avaa Unsloth Desktop.
2. Avaa yläreunasta Select model -valikko tai siirry Model hub -välilehdelle.
3. Valitse malli ja kvantisointi, joka sopii laitteellesi.
4. Käynnistä lataus ja odota, kunnes se valmistuu.
5. Aloita keskustelu kirjoittamalla viesti ja painamalla Enter.
Lisävinkkejä: aiemmin Hugging Facelta tai muista työkaluista ladatut GGUF-mallit voidaan tunnistaa automaattisesti; tarvittaessa voit osoittaa oman kansion. Sovellus voi ajaa kokonaan offline-tilassa latauksen jälkeen. Valmistaja kertoo, ettei se kerää telemetriaa.
Kolmannen osapuolen kokemuksissa Model hub merkitsee liian suuria vaihtoehtoja esimerkiksi TIGHT- tai OOM-tunnisteilla. Jos näet tällaisia merkintöjä, valitse pienempi kvantti tai pienempi malli. Unslothin omat Dynamic-kvantit (esim. UD-Q4_K_XL) ovat suositeltu lähtökohta.
Mikä malli mihinkin tarkoitukseen
Mallivalinta riippuu käyttötarkoituksesta ja koneen muistista. Nimet ja koot vaihtuvat nopeasti; esimerkit perustuvat Unslothin syksyn 2026 dokumentaatioon ja ovat suuntaa-antavia.
Yleinen chat ja päättely: Qwen3.8-27B tai Gemma 4 -perheen sopivan kokoinen versio. Qwen3.8-27B:n 4-bit-kvantit mahtuvat Unslothin mukaan noin 16-19 Gt:n kokonaisimuistiin (RAM + VRAM tai unified memory).
Koodi ja agenttikäyttö: Muse Glimmer 30B tai Qwen3.8-27B. Muse Glimmer 30B:n 4-bit-kvantti tarvitsee Unslothin mukaan noin 17 Gt tai enemmän.
Kevyt ja nopea aloitus: 1-8 miljardin parametrin kvantisoidut mallit. Sopivat vanhemmille kannettaville ja CPU-käyttöön.
Korkea laatu tehokkaalla koneella: 27-32B-luokan Q4/Q5/Q6-kvantit noin 24 Gt VRAM:illa tai Macilla runsaalla yhtenäisellä muistilla. 70B-luokka vaatii tyypillisesti yli 40 Gt muistia Q4-kvantilla.
Suomen kieli: Unsloth ei julkaise omaa suomen erikoismallia Desktop-julkaisun yhteydessä. Voit kokeilla monikielisiä malleja ja hakea Model hubista / Hugging Facelta suomeen hienosäädettyjä GGUF-malleja (esim. Poro-tyyppiset).
Muista: isompi ei aina ole parempi. Parempi on suurin malli, joka vielä jättää tilaa kontekstille. Q4 on usein hyvä kompromissi.
RAM, VRAM ja sopivat mallikoot
Alla oleva taulukko on suuntaa-antava aloittelijoille. Lukemat olettavat tyypillisesti 4-bit-luokan GGUF-kvantisoinnin ja kohtuullisen kontekstin. Unslothin nyrkkisääntö: kokonaismuistin (RAM + VRAM tai unified) tulisi vähintään ylittää ladatun kvantin koko.
| RAM | Näytönohjaimen muisti (VRAM) | Sopivat mallikoot / esimerkkejä | Huomio |
|---|---|---|---|
| 8 Gt | ei GPU:ta / iGPU | 1-3B Q4; korkeintaan hyvin pienet 7B-kvantit | Hidas CPU-ajo; odota pitkään; vältä isoja konteksteja |
| 16 Gt | 0-6 Gt | 3-8B Q4 (esim. kevyt chat) | Toimii, mutta 14B+ on usein tiukka; sulje muut ohjelmat |
| 16 Gt | 8 Gt | 7-8B Q4 sujuvasti; 14B Q3/Q4 tiukasti | Hyvä aloitus pelikoneelle |
| 32 Gt | 8-12 Gt | 8-14B Q4; osittainen offload isommille | Mukava chat ja kevyt koodi |
| 32 Gt | 16-24 Gt | 14-32B Q4 (esim. Qwen3.8-27B Q4 noin 16-19 Gt; Muse Glimmer 30B Q4 noin 17 Gt+) | Hyvä yleiskone 2026-malleille |
| 64 Gt | 24 Gt | 27-32B Q5/Q6; 70B Q2/Q3 tai osittainen offload | Laadukkaampi kvantti ja pidempi konteksti |
| 64 Gt+ | 48 Gt / multi-GPU | 70B Q4; erittäin suuret mallit | Harvinainen kotikone; myös Mac 64-128 Gt unified |
| Mac unified 24 Gt | (yhtenäinen muisti) | noin 14-27B Q3/Q4 tiukasti | Unsloth tukee Apple Silicon / MLX; jätä tilaa järjestelmälle |
| Mac unified 48-96 Gt | (yhtenäinen muisti) | 27-32B Q6/Q8; suurempi konteksti | Mukavin paikallinen kokemus ilman erillistä GPU:ta |
Lopuksi: vinkit ja yleiset sudenkuopat
Aloita pienellä mallilla, varmista että chat toimii, ja nosta kokoa vasta sitten. Varmista, että levyllä on kymmeniä gigatavuja vapaata tilaa ennen isoa latausta. Jos vastaukset ovat hitaita, kokeile pienempää kvanttia, lyhyempää kontekstia tai GPU-tukea; työkalut kuten web-haku ja koodin suoritus hidastavat Unslothin mukaan päätelmää.
Älä asenna vahingossa Studioa, jos halusit Desktopin. Beta-ohjelmistossa voi olla bugeja – päivitä sovellus (Settings – General – Check for updates; Linux .deb päivitetään uudella paketilla). Poistaminen ei poista ladattuja malleja: Windowsissa Apps-asetuksista, macOS:ssa Applications-kansiosta, Linuxissa apt remove tai AppImage-tiedoston poisto. Mallitiedostot ovat yleensä Hugging Face -välimuistissa.
Paikallinen malli ei korvaa aina pilven tehokkaimpia palveluja, mutta se antaa yksityisyyttä, offline-käytön ja kontrollin. Unsloth Desktop madaltaa kynnystä: asenna, lataa malli, kirjoita ensimmäinen viesti.
Lähteet ja lataukset
- Unsloth Desktop – virallinen docs-esittely (beta, Windows/macOS/Linux) – https://unsloth.ai/docs/desktop
- Unsloth Desktop – lataussivu – https://unsloth.ai/download
- Unsloth – asennuksen yleisohje (Desktop vs Studio vs Core) – https://unsloth.ai/docs/get-started/install
- Unsloth – Windows Desktop -asennus (.exe) – https://unsloth.ai/docs/get-started/install/windows-installation
- Unsloth – macOS Desktop -asennus (.dmg) – https://unsloth.ai/docs/get-started/install/mac
- Unsloth – Linux Desktop -asennus (.deb; AppImage GitHubissa) – https://unsloth.ai/docs/get-started/install/linux
- Unsloth – Desktopin päivitysohje – https://unsloth.ai/docs/get-started/install/updating
- Unsloth Studio – manuaalinen asennus (EI Desktop; curl/PowerShell) – https://unsloth.ai/docs/new/studio/install
- Unsloth Studio Chat – mallien ajo, GGUF, välimuistit – https://unsloth.ai/docs/new/studio/chat
- Unsloth AI Substack – Introducing Unsloth Desktop – 11.8.2026 – https://unslothai.substack.com/p/introducing-unsloth-desktop
- GitHub Release v0.1.701-beta – Introducing Unsloth Desktop – 11.8.2026 – https://github.com/unslothai/unsloth/releases/tag/v0.1.701-beta
- Unsloth – Muse Glimmer 30B muistivaatimukset ja Desktop-ajo – https://unsloth.ai/docs/models/muse-glimmer
- Unsloth – Qwen3.8-27B muistivaatimukset ja Desktop-ajo – https://unsloth.ai/docs/models/qwen3.8
- Unsloth GitHub – README (Desktop / Studio / Core) – https://github.com/unslothai/unsloth
- DEV Community – BrianInTheLoop: Unsloth Desktop brings Local AI to the masses – 5.9.2026 – https://dev.to/brianintheloop/unsloth-desktop-brings-local-ai-to-the-masses-1an0
Vastaa