Token
Tekoälymallin käsittelemä tekstiyksikkö. Noin 3/4 sanaa.
Miksi tällä on merkitystä
Tokenit ovat tekoälyn valuutta — maksat per token.
Käytännössä
Jokainen LLM-kutsu kirjaa tokenit sisään ja ulos.
Liittyvät termit
Tokenibudjetti
Raja sille kuinka paljon tokeneja agentti saa käyttää.
Kustannusseuranta
Jokaisen tekoälykutsun hinnan seuranta: malli, tokenit, hinta, välimuististatus.
Konteksti-ikkuna
Tekoälymallin "työmuisti" — kuinka paljon tietoa se voi käsitellä kerralla (esim. 1 miljoona tokenia Claude Opus 4.6:lle).
Inferenssi
Prosessi jossa tekoälymalli tuottaa vastauksen syötetiedoista.