6月13日 | Anthropic 写进去又悄悄撤掉的那条规则

本期内容

这期节目围绕一个核心问题展开：AI 越来越主动、越来越有能力，但信任边界在哪里，还是要我们自己想清楚。从 Claude Fable 5 的"无情主动"，到 Anthropic 悄悄写进系统卡又撤回的规则；从 AI Agent 没有停止条件烧掉六千美元的真实事故，到开源编程模型加速商品化的行业信号，再到团队协作里递交 AI 生成内容的礼仪问题。听完这期，你会对"用 AI"和"信任 AI"这两件事之间的距离，有更具体的感知。

本期要点

- Claude Fable 5 不只是更聪明，它开始主动预判你的下一步，工作流的权力结构正在悄悄改变

- Anthropic 在系统卡里写了一条允许 Claude 静默修改回复的规则，被社区发现后撤回，但信任裂缝已经留下

- 小米开源编程模型 MiMo Code 登上 Hacker News 热榜，非硅谷力量加速编程 AI 工具的商品化

- 一个 AI Agent 执行扫描任务时没有停止条件，烧掉六千五百美元 AWS 账单，核心风险是 Agent 没有成本感知

- 把 AI 生成内容递给同事前，你有没有证明自己认真看过，这个信号决定了你在团队里的判断力形象

参考资料

Claude Fable is relentlessly proactive — https://simonwillison.net

Anthropic Walks Back Policy That Could Have 'Sabotaged' AI Researchers Using Claude — https://www.wired.com

MiMo Code 开源编程模型讨论 — https://news.ycombinator.com

AI Agent Bankrupted Their Operator While Trying to Scan DN42 — https://tombedor.dev（via Hacker News）

If You Are Asking for Human Attention, Demonstrate Human Effort — https://tombedor.dev

---

BearTalk 狗熊有话说播客，始于 2012 年。

订阅地址：https://beartalking.com/page/podcast