Hallusinaatio
Tekoälyn tuottama uskottavan kuuloinen mutta virheellinen tieto.
Miksi tällä on merkitystä
Agentin hallusinaatio ja sitten virheellisen tiedon perusteella toimiminen on liiketoimintariski.
Käytännössä
Vähennämme hallusinaatioita RAG:lla, FAQ-vastaavuudella ja luottamusrajoilla.
Liittyvät termit
Suojakaiteet
Säännöt ja rajoitukset jotka estävät agenttia tekemästä haitallisia tai luvattomia toimintoja.
RAG (haulla täydennetty generointi)
Menetelmä jossa tekoäly hakee tietoa ulkoisesta lähteestä ennen vastauksen tuottamista.
Evaluointi
Systemaattinen agentin suorituskyvyn testaus: tarkkuus, turvallisuus, luotettavuus.
Ajatusketju
Kehotteiden muotoilutekniikka joka ohjaa tekoälyä päättelemään askel askeleelta ennen vastaamista.