Tokenibudjetti
Raja sille kuinka paljon tokeneja agentti saa käyttää.
Miksi tällä on merkitystä
Tokenibudjetit pakottavat tehokkuuteen.
Käytännössä
Jokaisella Paperclip-agentilla on päivittäinen tokenibudjetti.
Liittyvät termit
Budjettikontrollit
Kulutusrajat agenttikohtaisesti, työnkulkukohtaisesti tai yrityskohtaisesti jotka estävät hallitsemattomat API-kustannukset.
Token
Tekoälymallin käsittelemä tekstiyksikkö. Noin 3/4 sanaa.
Kustannusseuranta
Jokaisen tekoälykutsun hinnan seuranta: malli, tokenit, hinta, välimuististatus.
Paperclip
Avoimen lähdekoodin orkestrointialusta joka mallintaa yritysrakenteita tekoälyagenteille.