Beiträge zum Thema “KI-Sicherheit”
Blogs
weiterlesen
⚠️ Kritisches Problem: Strukturierte Ausgabefelder von OpenAI können überschrieben werden
⚠️ Kritisches Problem: Strukturierte Ausgabefelder von OpenAI können überschrieben werden 🚨
In den Modellen von OpenAI sollen strukturierte Ausgabefelder das Format und den Inhalt der Antworten steuern. Allerdings werden die Beschreibungen dieser Felder lediglich als Teil des Kontexts der Eingabe behandelt. Das bedeutet: Wenn man den Feldnamen kennt, kann man dessen Bedeutung im Prompt neu definieren.
🔴 Dieses Verhalten ist nicht beabsichtigt und kann zu Problemen führen, wie zum Beispiel: