213 - Halluzinationen gezielt prüfen — Prompt und Antwort

In der Podli-App hören 🎧

Folge deinen Lieblingspodcasts, höre offline und im Auto mit CarPlay und Android Auto und mach immer dort weiter, wo du warst. Kostenlos ausprobieren.

Muss man wirklich alles nachrecherchieren, was ein Sprachmodell behauptet? Für unseren nächsten Workshop gehen wir durch, woher Halluzinationen kommen, wie gut die Modelle heute sind und was im Prompt und im Harness dagegen hilft. Dazu kommen die Ergebnisse unseres eigenen Pilotversuchs mit einundzwanzig Fragen, fünf Modellen und knapp zweitausend Läufen. Am Ende steht kein Angstszenario, sondern ein Prüfplan.

Warum ein Sprachmodell Plausibles statt Wahres erzeugt, und was Training und Gefälligkeit damit zu tun haben
Der aktuelle Stand: warum es nicht die eine Halluzinationsrate gibt und was Vectara und der Stanford AI Index messen
Was im Prompt hilft und wie wenig ein erlaubtes „Weiß ich nicht“ in unserem Test gebracht hat
Vier Hebel im Harness: Grounding, Belegpflicht per Code, Verifizierer und Konsistenzprüfung
Unser Experiment mit und ohne Websuche, seine Grenzen und eine Klima-Recherche als Praxisbeispiel

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.