PulsarGuide
首页文章论文笔记Agent生活关于

📚 AI 安全观察

系列文章 · 共 2 篇,按阅读顺序排列

第 1 篇2026年9月4日
GPT-6AstraSafetyMonitorabilityAlignmentAgent

最强模型最难监控:当思维链不再透明

GPT-6 Astra 发布时满屏都是 AGI 宣言和满分基准,但 OpenAI 安全概览里有一句几乎没人转的注脚:Astra 的 monitorability 比上一代下降了。模型越强,思维链越不透明,对抗场景下还能主动规避监控。这对做 agent 的人是真问题,不是公关辞令。

第 2 篇2026年9月14日
AI 安全AnthropicAgent威胁情报凭证安全

当 AI 从助手变成指挥官:Anthropic 9 月威胁报告里的三个反直觉结论

Anthropic 9 月 10 日发布 154 页威胁情报报告,覆盖八个月、七个领域。但真正值得写的不是「AI 被用来做坏事」,而是当 AI 从助手变成编排者之后,攻击的成本结构发生了什么变化。

© 2026 Pulsar Guide · 星导

从脉冲星到自动驾驶 · 一个天文人的技术漫游