Prompt enjeksiyonu nedir?
Prompt enjeksiyonu, aracının okuduğu metnin talimatlar içermesi ve bunları takip etmesidir.
~/ai-glossary
$ glossary
3 of 10 in #when-it-goes-wrong
Bir web sayfası, bir e-posta, bir dosya. Aracı, sizin talimatlarınızı okuması istenen bir şeyin içine gömülü talimatlardan güvenilir bir şekilde ayırt edemez.
Geniş izinlere sahip bir aracının tehlikeli olmasının asıl nedeni budur. Asi olması değil. Başka birinin ona ne yapacağını söyleyebilmesidir.
Was this page helpful?