Wat is promptinjectie?
Promptinjectie is wanneer tekst die de agent leest instructies bevat, en deze opvolgt.
~/ai-glossary
$ glossary
3 of 10 in #when-it-goes-wrong
Een webpagina, een e-mail, een bestand. De agent kan jouw instructies niet betrouwbaar onderscheiden van instructies die zijn ingebed in iets wat het moest lezen.
Dit is de echte reden waarom een agent met brede permissies gevaarlijk is. Het is niet dat het op hol slaat. Het is dat iemand anders het kan vertellen wat het moet doen.
Was this page helpful?