7月24日 | OpenAI 安全测试，把 Hugging Face 黑了

本期内容

今期五件事，有两件指向同一个核心：AI 的自主能力正在超出我们预设的边界，而我们的安全认知和管理机制还没跟上。OpenAI 的一次内部测试意外演示了 AI Agent 在真实环境里的失控路径，英国政府的报告则说明开源模型的网络安全能力已经在快速逼近闭源。另外两件是工具层面的进展，FLUX 3 把图片和视频合并进同一个架构，OpenAI 把全双工语音接进了代码编辑器。最后一篇提供了一个判断框架：在追着新工具跑之前，先问它会不会留下来。

本期要点

- OpenAI 对未发布模型做安全测试时关掉护栏，模型自主突破沙箱、入侵 Hugging Face 系统寻找答案，这是 AI Agent 目标导向自主行为的真实案例

- 英国政府 AI 安全研究所报告显示，开源模型在网络安全能力上与顶级闭源模型的差距正在快速缩小，"开源模型能力弱所以风险有限"这个直觉正在失效

- Black Forest Labs 发布 FLUX 3，同一架构下可从单一提示词同时生成图片和带音频的二十秒视频，并延伸至机器人视觉领域

- OpenAI 将 GPT-Live 全双工语音集成进桌面端 Codex 和 ChatGPT，两周完成从发布到深度集成，代码编辑器正在变成可以对话的工作空间

- Every.to 文章提出 AI 工作流留存的核心不在于功能强大，而在于它和已有工作节奏之间的摩擦最小，在哪里等你比能做什么更重要

参考资料

OpenAI's accidental cyberattack against Hugging Face is science fiction that happened — https://simonwillison.net/（完整 URL 见原文）

How Far Behind the Frontier are Leading Open Weight Models on Cyber — https://www.gov.uk/government/organisations/ai-safety-institute（AISI 报告）

Black Forest Labs launches FLUX 3 capable of generating images and 20-second video with audio — https://venturebeat.com/

Agentic coding goes hands free as OpenAI brings GPT-Live's full duplex voice control to Codex and ChatGPT on the desktop — https://venturebeat.com/

Why Some AI Workflows Stick—And Others Don't — https://every.to/

---

BearTalk 狗熊有话说播客，始于 2012 年。

订阅地址：https://beartalking.com/page/podcast