#204 - A hallucináció nem hallucinogén! — Láncreakció

Hallgasd a Podli appban 🎧

Kövesd kedvenc podcastjaidat, hallgasd őket offline és az autóban CarPlay és Android Auto segítségével, és mindig ott folytasd, ahol abbahagytad. Ingyen kipróbálhatod.

Vendégünk ezen a héten Recski Gábor, a bécsi műszaki egyetem egyik spinoffjaként létrejött KRLabs társtulajdonosa, ahol open source hallucináció-felismerést és a hallucinációt kivédekező RAG-et (amit talán visszakereséssel támogatott szöveggenerálásnak lehetne magyarítani) fejlesztenek. Gábor az eufemizáló "hallucináció" kifejezést ekézve Emily M. Bendert (a sztochasztikus papagájos kutatót) idézte, elmagyarázta a leleplezéshez használt technikákat (egyebek mellett említve a RAGTruth hallucináció-korpuszt), és beszélt első frameworkjükről is, amit potato-nak hívtak a rettenetes szóviccekhez vonzódó kutatók, akik egyik jelenlegi terméküket ugyanezen vonalon haladva LettuceDetectnek nevezik. Hogyan lehet felismerni és megelőzni a hallucinációt, hogy jön ez a bécsi Ingatlanrendőrséghez és egyes IoT szabványokra épülő szoftverek validálásához és miből lesz majd az AGI?

Kapcsolódó epizódok:

#148 - Mitől hagyja abba a ChatGPT a hallucinálást?
#108 - Sztochasztikus papagáj vagy Terminator a ChatGPT?