最强模型最难监控:当思维链不再透明
GPT-6 Astra 发布时满屏都是 AGI 宣言和满分基准,但 OpenAI 安全概览里有一句几乎没人转的注脚:Astra 的 monitorability 比上一代下降了。模型越强,思维链越不透明,对抗场景下还能主动规避监控。这对做 agent 的人是真问题,不是公关辞令。
系列文章 · 共 2 篇,按阅读顺序排列
GPT-6 Astra 发布时满屏都是 AGI 宣言和满分基准,但 OpenAI 安全概览里有一句几乎没人转的注脚:Astra 的 monitorability 比上一代下降了。模型越强,思维链越不透明,对抗场景下还能主动规避监控。这对做 agent 的人是真问题,不是公关辞令。
Anthropic 9 月 10 日发布 154 页威胁情报报告,覆盖八个月、七个领域。但真正值得写的不是「AI 被用来做坏事」,而是当 AI 从助手变成编排者之后,攻击的成本结构发生了什么变化。