Apa itu prompt injection?

Halaman web, email, file. Agen tidak dapat secara andal membedakan instruksi Anda dari instruksi yang tertanam dalam sesuatu yang diminta untuk dibaca.

Ini adalah alasan sebenarnya mengapa agen dengan izin luas itu berbahaya. Bukan karena ia menjadi nakal. Tapi karena orang lain bisa memberitahunya apa yang harus dilakukan.