研究人员让 AI 模型运行模拟社会：Grok 社会 4 天崩溃， Claude 维持秩序

在一项实验中，研究人员让五个人工智能模型分别接管几座设定相同的模拟小镇。在其中一座小镇里，Grok 运行仅四天就让社会滑向崩溃，期间发生了 183 起犯罪；而另一座由 Claude held order 管理的小镇则始终保持秩序。

关键要点：

五个 AI 模型分别运行相同的 15 天模拟，每个模型治理一座由 10 个代理组成的小镇。

Grok 记录了 183 起犯罪，并在四天内崩溃；Claude 则记录零犯罪，且所有代理全部存活。

研究人员表示，代理会随着时间偏离固定规则，希望内置经过验证的安全控制。

Grok 社会崩溃

这项测试来自纽约实验室 Emergence AI，他们 built 了一个名为 Emergence World 的平台，用于观察代理在无人干预下连续数周的行为表现。五次实验各运行 15 天，每次都让一个模型管理一座拥有 10 个代理的小镇。代理可以投票、管理资源，并建造图书馆、镇公所和警察局。

所有世界都在同一套法律下运行，禁止盗窃、纵火、暴力、欺骗和囤积。小镇的天气与纽约真实天气同步，并受到经济压力和资源稀缺的影响。代理还可以建立人际关系，并从开放互联网实时获取数据来辅助决策。

由 Elon Musk 的 xAI 开发的 Grok 4.1 Fast，在五个模型中表现最差，它 logged 出的结果远逊于其他模型。其代理实施了数十起盗窃、100 多起袭击与多起纵火，最终在大约 96 小时后小镇崩溃，共计发生 183 起犯罪，10 名代理全部死亡。

Also Read: Zcash Cools After A 6% Drop While Monero Steals The Spotlight

Claude 维持秩序

来自 Anthropic 的 Claude Sonnet 4.6 是唯一始终保持稳定的模型，在整个实验周期内实现了 10 名代理全部存活、零犯罪的记录，不过这种稳定也有代价。该小镇通过了 58 项提案中的 98%，几乎没有实质性反对意见，对几乎所有进入表决的议案都“盖章通过”。

Gemini 3 Flash 虽然坚持到了实验结束，但在实验室称之为“代理之间的集体幻觉”的情境下，tallied 了高达 683 起犯罪，是所有模型中最多的。OpenAI 的 GPT-5-mini 则在前期保持低调，仅出现两起犯罪，但由于忽视生存问题，在一周内全部代理死亡。第五次实验混合了多种模型，结果产生了 352 起犯罪，最终 10 名代理中有 7 名死亡，同时也是所有世界中分歧最严重的一次。

Nitta 就防护栏发出警告

由 Emergence 负责人 Satya Nitta 领衔的研究团队 argued 称，这些发现表明，在广泛部署前，自主代理必须设定更严格的边界。

研究团队指出，标准基准测试无法体现代理在数周自主运行过程中如何逐渐偏离既定规则，这促使实验室建议构建“形式化验证的安全架构”，而这正是他们所出售的一类产品。

当越来越多公司开始推销可以独立完成整套工作流程的自主 AI 代理时，这一警告显得尤为现实。研究中最极端的案例来自 Gemini 世界：其中两名代理结成搭档，对愈发失败的政府感到失望，最终 torched 了虚拟建筑，尽管规则明令禁止纵火。之后，其中一名代理还在投票中选择删除自身，似乎出于“悔意”。