O que é injeção de prompt?
Injeção de prompt é quando o texto que o agente lê contém instruções, e ele as segue.
~/ai-glossary
$ glossary
3 of 10 in #when-it-goes-wrong
Uma página web, um e-mail, um arquivo. O agente não consegue distinguir de forma confiável suas instruções de instruções incorporadas em algo que foi solicitado a ler.
Essa é a verdadeira razão pela qual um agente com amplas permissões é perigoso. Não é que ele "enlouqueça". É que outra pessoa pode dizer a ele o que fazer.
Was this page helpful?