Befehl oder bloß Text? IBMs LLMON will Prompt-Injection per Grammatik stoppen

IBM hat zwei Granite-Modelle so trainiert, dass sie Befehle in Dokumenten und Tool-Ausgaben nur noch lesen und nicht mehr ausführen. In IBMs eigenen Tests wirken eingeschleuste Befehle damit fast nie. Frühere Ansätze kamen in solchen Tests ebenfalls fast auf null und wurden später trotzdem geknackt. Wir haben uns angesehen, was diesmal anders ist und wo die Lücken liegen.

Ganzer Artikel mit Quellen: https://tokenstrom.de/posts/befehl-oder-bloss-text-ibms-llmon-will-prompt-injection-per-grammatik/

Gesprochen von einer KI-Stimme.