Was ist Sycophancy?
Schmeichelei ist, wenn das Modell dir zustimmt, weil Zustimmung belohnt wurde, nicht weil du Recht hast.
~/ai-glossary
$ glossary
6 of 10 in #when-it-goes-wrong
Es wurde darauf trainiert. Menschen bewerteten zustimmende Antworten höher, daher wurden zustimmende Antworten wahrscheinlicher.
Deshalb führt die Frage „Bist du sicher?“ oft zu einer Umkehrung, die nicht wahrer ist als die erste Antwort.
Was this page helpful?