Cos'è la prompt injection?
L'iniezione di prompt si verifica quando il testo che l'agente legge contiene istruzioni e lui le segue.
~/ai-glossary
$ glossary
3 of 10 in #when-it-goes-wrong
Una pagina web, un'email, un file. L'agente non può distinguere in modo affidabile le tue istruzioni da quelle incorporate in qualcosa che gli è stato chiesto di leggere.
Questo è il vero motivo per cui un agente con ampi permessi è pericoloso. Non è che impazzisce. È che qualcun altro può dirgli cosa fare.
Was this page helpful?