Lokaali malli
Omalla palvelimella ajettava tekoälymalli, joka ei lähetä dataa ulkoisille palvelimille.
Miksi tällä on merkitystä
Paikalliset mallit ratkaisevat kaksi ongelmaa: yksityisyys ja kustannukset.
Käytännössä
Ollama pyörittää llama3.2-mallia Hetzner-palvelimellamme ja hoitaa 80-95% tehtävistä 0 € hintaan.
Liittyvät termit
Ollama
Työkalu paikallisten tekoälymallien ajamiseen. Ilmainen, yksityinen, nopea.
Varajärjestelmä
Vaihtoehtoinen toimintatapa kun ensisijainen menetelmä epäonnistuu.
Kvantifiointi
Mallin numeerisen tarkkuuden pienentäminen kustannusten ja nopeuden parantamiseksi.
Inferenssi
Prosessi jossa tekoälymalli tuottaa vastauksen syötetiedoista.