Nopeusrajoitus
Agentin toimintanopeuden rajoittaminen kustannusten hallitsemiseksi.
Miksi tällä on merkitystä
Rajoittamaton agentti voi polttaa budjetteja minuuteissa.
Käytännössä
Chat-agentillamme on 3 sekunnin minimiväli viestien välillä.
Liittyvät termit
Budjettikontrollit
Kulutusrajat agenttikohtaisesti, työnkulkukohtaisesti tai yrityskohtaisesti jotka estävät hallitsemattomat API-kustannukset.
Suojakaiteet
Säännöt ja rajoitukset jotka estävät agenttia tekemästä haitallisia tai luvattomia toimintoja.
Kustannusseuranta
Jokaisen tekoälykutsun hinnan seuranta: malli, tokenit, hinta, välimuististatus.