Suojakaiteet
Säännöt ja rajoitukset jotka estävät agenttia tekemästä haitallisia tai luvattomia toimintoja.
Miksi tällä on merkitystä
Agentit jotka tekevät reaalimaailman toimintoja tarvitsevat rajoja.
Käytännössä
Chat-agenttimme voi vastata kysymyksiin palveluista mutta ei voi tehdä lupauksia tai jakaa sisäistä dataa.
Liittyvät termit
Hallinto
Politiikat, kontrollit ja prosessit jotka varmistavat vastuullisen agentin toiminnan tuotannossa.
Human-in-the-loop
Ihminen tarkistaa ja hyväksyy agentin toiminnot ennen niiden suorittamista.
Prompt-injektio
Hyökkäys jossa ulkoinen sisältö ohjaa agenttia toimimaan ohjeiden vastaisesti.
Budjettikontrollit
Kulutusrajat agenttikohtaisesti, työnkulkukohtaisesti tai yrityskohtaisesti jotka estävät hallitsemattomat API-kustannukset.