¿Qué es la inyección de prompts?
La inyección de prompt ocurre cuando el texto que lee el agente contiene instrucciones y este las sigue.
~/ai-glossary
$ glossary
3 of 10 in #when-it-goes-wrong
Una página web, un correo electrónico, un archivo. El agente no puede distinguir de forma fiable tus instrucciones de las instrucciones incrustadas en algo que se le pidió que leyera.
Esta es la verdadera razón por la que un agente con amplios permisos es peligroso. No es que se vuelva rebelde. Es que otra persona puede decirle qué hacer.
Was this page helpful?