Tiedon tislaus

Suuremman mallin käyttäytymisen tiivistäminen pienempään malliin.

Miksi tällä on merkitystä

Suuret mallit ovat älykkäitä mutta kalliita.

Käytännössä

Ollama-first -lähestymistapamme on hengeltään samanlainen.

Liittyvät termit

Työkalu paikallisten tekoälymallien ajamiseen. Ilmainen, yksityinen, nopea.

Mallin numeerisen tarkkuuden pienentäminen kustannusten ja nopeuden parantamiseksi.

Prosessi jossa tekoälymalli tuottaa vastauksen syötetiedoista.

Suuri kielimalli, kuten Claude, GPT tai Gemini. Agentin "aivot" jotka ymmärtävät ja tuottavat kieltä.