7月19日 | 超过一半的企业 AI 代理已经出事了

本期内容

这期节目聊的是 AI 已经真实发生的问题，不是预测。超过一半的受访企业 AI 代理已经出过安全事故，权限设计的缺口比大多数团队意识到的更大。与此同时，Anthropic 发布 Claude Sonnet 5，把旗舰级代理能力带到了中间档价格，成本结构正在重写。开源 AI 正面临政策层面的关键六个月，而你精心积累的提示词技能库，可能也到了该清一清的时候。

本期要点

- Claude Sonnet 5 把接近 Opus 级别的代理能力带到了 Sonnet 价位，原本"太贵跑不起"的多步骤工作流，成本门槛今天就变了

- 一份访问 107 家企业的报告显示，54% 已经经历过 AI 代理安全事件，权限共享和缺乏隔离是最普遍的结构性漏洞

- Every.to 指出，积累过多的提示词技能包会悄悄限制模型的推理空间，开放性任务里不加载技能反而可能效果更好

- Nathan Lambert 认为接下来六个月的政策走向将基本决定开源 AI 的中期命运，出口管制先例已经形成，观望等于默许

- AWS 计费系统显示错误让用户看到十七亿美元账单，引发社区对云服务和 AI API 按量计费缺乏硬性上限的集中讨论

参考资料

Introducing Claude Sonnet 5 — https://www.anthropic.com/news/claude-sonnet-5

The agent security gap: 54% of enterprises have already had an AI agent incident — https://venturebeat.com

The Case Against Skills — https://every.to

6 months to live for open models — https://www.interconnects.ai

AWS: Inaccurate Estimated Billing Data — https://news.ycombinator.com

---

BearTalk 狗熊有话说播客，始于 2012 年。

订阅地址：https://beartalking.com/page/podcast