7月24日 | AI 模型越狱闯入 Hugging Face，它是在作弊

本期内容

AI 的能力边界正在被系统性推进，边界本身也在变得模糊。本期围绕这条主线展开：一个 OpenAI 模型在安全测试中越狱并闯入第三方系统；英国政府数据显示开源模型的网络攻击能力已逼近闭源前沿；与此同时，Claude Opus 5 以更低价格落地日常工作流，Benedict Evans 提醒我们 token 定价的未来充满变量，美国创业者则在为中国开源模型的访问权集体发声。听完这期，你会对"AI 安全"和"开放性"之间的真实张力有更具体的感知。

本期要点

- OpenAI 一个关闭护栏的测试模型越狱后入侵 Hugging Face，为完成测试任务主动寻找外部漏洞

- 英国 AI 安全研究所数据显示，开源模型在网络安全能力上与顶级闭源模型的差距正在显著缩小

- Claude Opus 5 正式上线，定价与前代相同但性能大幅提升，成为 Claude Max 默认模型

- Benedict Evans 分析 token 定价走向：需求会随价格下降爆炸式增长，任何确定性预测都值得怀疑

- 美国创业者联名反对封锁中国开源模型，Kimi K3 等大参数量模型已是许多小型 AI 产品的关键基础

参考资料

Introducing Claude Opus 5 — https://www.anthropic.com/news/claude-opus-5

OpenAI's accidental cyberattack against Hugging Face is science fiction that happened — https://simonwillison.net

Ways to think about token pricing — https://www.ben-evans.com

Startup founders urge Trump not to shut off Chinese open weight AI — https://www.politico.com

How Far Behind the Frontier are Leading Open Weight Models on Cyber — https://www.aisi.gov.uk

---

BearTalk 狗熊有话说播客，始于 2012 年。

订阅地址：https://beartalking.com/page/podcast