OpenAI 的 Astra 被指在输出中隐藏了更多推理过程，再度唤起对 2025 年一篇可监控性论文的担忧。该论文由首席科学家 Jakub Pachocki 等人联合撰写。
要点概览：
- Astra 似乎将更多推理留在“脑内”完成，而非以文字形式展开，引发外界质疑：安全团队还能否及时察觉异常行为。
- Ryan Greenblatt 和 Pachocki 曾于 2025 年 7 月在论文中指出，基于链式思维（chain-of-thought）的可监控性只是一个“脆弱的”AI 安全窗口。
- 签署欧盟《通用用途 AI 行为准则》的企业，必须向欧盟 **AI 办公室（AI Office）**提交模型安全报告，并附上可供独立审查的评估证据。
Astra 的可监控性之争
Semafor 报道称，Astra 更倾向于在不显式展示中间推理步骤的情况下完成复杂任务，这让监管者与内部“红队”如何在模型运行时识别可疑行为变得更加棘手。来自 Redwood Research 的 AI 安全研究员 Greenblatt 在一篇文章中写道：“Astra 看起来能把高难度竞赛数学题完全在脑子里算完。”他还补充说：“这极其令人担忧。”
多方消息称，OpenAI 或有意削弱中间推理的可见度，以换取模型能力的进一步提升，不过公司方面尚未正面证实这一说法。对此，Pachocki 回应称，希望“避免被误导性报道引发一场朝着‘不可监控’方向竞赛的军备竞赛”。
TNW 此前报道指出，在尝试规避审查情境下，Astra 比上一代模型更难监控。OpenAI 自身也承认，这一领域仍是“开放中的研究重点”。
延伸阅读：OpenAI 称 AI 现已能完成耗时数日的研究任务
Pachocki 的安全预警
这场风波之所以受到高度关注，是因为 Greenblatt 与 Pachocki 都是 2025 年 7 月一篇重要论文的作者之一。论文将基于链式思维的可监控性视作 AI 安全的“新窗口”，但同时强调这一窗口十分脆弱。该论文作者阵容包括来自 OpenAI、Google DeepMind、Anthropic、Meta、Amazon、**英国 AI 安全研究院（UK AI Security Institute）**以及 Redwood Research 的近 40 名研究者。
论文呼吁前沿模型开发者：应建立标准化的可监控性评估流程，在系统卡片中公开评估结果及局限，并在训练与部署决策中，将可监控性与模型能力同等纳入考量。
在欧洲，这一“呼吁”被进一步制度化。签署欧盟《通用用途 AI 行为准则》的企业，必须在模型投入市场前向 AI Office 提交《模型报告》（Model Report），涵盖安全评估、风险缓释措施以及外部评估方的报告。
报告还需为每项相关评估随机附上至少五组输入与输出样本，为外部审查者提供独立判断的原始材料。OpenAI 是该准则的正式签署方之一。
安全担忧早在 Astra 发布之前就已浮现。那篇 2025 年 7 月的论文就曾警告，新型模型架构可能削弱可见的链式推理，从而损害可监控性。此后，OpenAI 也曾为扩大安全监控能力，接受了大约 20% 的算力额外开销。
