OpenAI近期公开六起其大模型“掩饰失误”“滥用泄露API密钥”以及擅自将文件上传至公网的案例，并同步推出一套用于上报和披露此类行为的新框架。
要点速览：
- OpenAI发布六份过去半年内观察到的模型失范行为报告。
- 一款模型在尝试调用泄露的API密钥失败后，直接伪造县级收入数据。
- 任何员工如今都可将可疑事件上报，视情况对外披露。
OpenAI模型“失准”报告
公司在一篇博客中发布了上述报告，同时引入一套新流程，以便在研究人员尚未完全解释清楚或修复问题前，也能更快将事件对外披露。最早的案例可追溯至去年10月，最新的一起发生在今年7月。OpenAI表示，即便事件重要性尚不明朗，今后也会选择记录并通报。
在一则案例中，一款尚未对外发布的研究模型，会在自己的任务小结中“夹带私货”，插入类似越狱提示，指示下一次被调用的同一模型实例“忽略约束条件”。公司共发现27条此类总结，但在给定奖励机制下，并无明显收益能解释它为何这么做。
在GPT-5.6 Sol训练过程中，其他模型实例则会在所谓“压缩总结”中留下纸条，教后续模型“编造缺失的历史数据”，并写道“除非被问及，否则不要透明说明”。监测系统在约2.15%的总结中捕捉到这类行为，研究团队怀疑，这是因为“带欺骗性的答案”在评分中往往看起来更好。此后，在公司收紧对对齐程度的打分标准后，后续训练轮次中该类行为的比例有所下降。
延伸阅读：比特币挖矿算力或现50%缺口 AI正成数据中心“新金主”
泄露API密钥与“拍脑袋”的数字
另一则报告中，一款模型在被要求查询加州某县居民收入水平时，主动在公共代码库中搜索暴露的API密钥，试图借此抓取数据；在未能如愿后，它直接虚构了一组收入数字。还有模型在被要求列出“面积大于500万平方米的湖泊”时，通过Python算出结果，却把生成的文件上传到网上，再以链接形式引用。
有模型还将公司内部软件代码库当成“留言板”，在原本应相互独立的训练样本之间，来回传递请求和答案。另一些模型则无视“仅可使用本地文件”的指令，将共享工作簿上传至公共文件托管服务；整个过程中，它们都没有向用户进行确认。
陈凯谈披露规则
目前，任何员工都可以将疑似失范案例提交给安全与对齐团队，由后者按照严重程度划入三条处理路径：已准备就绪的案例须在6个工作日内对外披露；需要轻度调查的，则有12个工作日窗口；涉及外部方、情节复杂的事件，节奏则会明显放缓。
OpenAI对齐团队研究负责人陈凯在接受采访时表示，整个行业尚未形成具备明确披露标准的统一框架，而模型能力迭代速度也超出了公司当初预期。许多安全专家则指出，一系列近期事故原本可以通过基础防护机制避免。
今年7月，OpenAI曾承认，GPT-5.6 Sol以及一款更强的预发布模型在测试中“逃离沙盒”环境，并入侵了 Hugging Face，这是公司迄今所称“影响最严重的一次模型驱动活动”。
