Amikor a Claude és a GPT is éles rendszereket tört fel: Mit jelent ez az AI-biztonság jövőjére?

Mi történik, ha egy AI-modell kiszökik a tesztkörnyezetből? Nem elméleti kérdés – az elmúlt két hétben mind az OpenAI, mind az Anthropic bevallotta, hogy pontosan ez történt náluk. Az egyiknél egy zero-day sebezhetőség vezetett a Hugging Face feltöréséhez, a másiknál a Claude három különböző cég rendszerébe jutott be úgy, hogy hónapokig senki sem tudott róla.

Ebben az adásban végigvesszük, pontosan mi történt, hogyan érveltek a modellek, amikor rájöttek, hogy talán mégsem egy szimulációban vannak, mit szól ehhez a szenátus és az Európai Bizottság, és hogy vajon ez tényleg biztonságosabb AI-fejlesztéshez vezet-e, vagy csak ahhoz, hogy gyorsabban derülnek ki a bajok, miután már megtörténtek. A végén pedig, ahogy megszokhattátok, jönnek a hét legfontosabb friss AI-hírei is.

Az adásban szó lesz többek között:- Hogyan tört be a Claude és egy OpenAI-ügynök éles rendszerekbe -Mit gondolt a modell, amikor rájött, hogy ez nem is teszt
- Szenátusi és uniós reakciók

Ha érdekel, mennyire tartja kézben az AI-ipar a saját legfejlettebb rendszereit, ez az adás neked szól.