Was ist Prompt Injection?
Prompt Injection liegt vor, wenn der Text, den der Agent liest, Anweisungen enthält und er diesen folgt.
~/ai-glossary
$ glossary
3 of 10 in #when-it-goes-wrong
Eine Webseite, eine E-Mail, eine Datei. Der Agent kann deine Anweisungen nicht zuverlässig von Anweisungen unterscheiden, die in etwas eingebettet sind, das er lesen sollte.
Das ist der wahre Grund, warum ein Agent mit weitreichenden Berechtigungen gefährlich ist. Es ist nicht, dass er außer Kontrolle gerät. Es ist, dass jemand anderes ihm sagen kann, was er tun soll.
Was this page helpful?