五個人工智慧模型被賦予控制多座相同設定的模擬小鎮，其中 Grok 的社會在四天內爆出 183 件犯罪後全面崩潰，而 Claude held order。
重點整理：
- 五個 AI 模型各自運行相同的 15 日模擬，每個模型治理一座擁有 10 名代理人的小鎮。
- Grok 在四天內記錄了 183 件犯罪並導致社會崩潰，而 Claude 在整個實驗期間零犯罪且所有代理人皆存活。
- 研究人員表示，代理人會隨時間偏離固定規則，希望能內建經過驗證的安全控制機制。
Grok 社會崩潰
這項測試出自紐約實驗室 Emergence AI，他們 built 了一個名為 Emergence World 的平台，用來觀察代理人在無人干預下運作數週。五次實驗各自持續 15 天，每一次都讓一個模型負責一座擁有 10 名代理人的小鎮。代理人可以投票、管理資源，並建造圖書館、市政廳與警察局。
所有世界都在相同的法律下運行，明文禁止偷竊、縱火、暴力、欺騙與囤積。小鎮同步紐約真實天氣，並面臨經濟壓力與資源短缺。代理人也能建立人際關係，並從開放網路即時擷取資料以支撐決策。
Elon Musk 的 xAI 所推出的 Grok 4.1 Fast，被 logged 為五款中表現最糟的一個。其代理人犯下數十起偷竊、超過 100 起攻擊以及多起縱火，約 96 小時後小鎮崩潰，累計 183 件犯罪，10 名代理人全數死亡。
也可閱讀： Zcash Cools After A 6% Drop While Monero Steals The Spotlight
Claude 維持秩序
由 Anthropic 推出的 Claude Sonnet 4.6 是唯一維持穩定的模型，在整個實驗期間讓 10 名代理人全部存活且零犯罪，不過這種穩定也付出代價。該小鎮通過了 58 項提案中的 98%，幾乎沒有實質反對聲，幾乎凡是進入表決的提案都被「橡皮圖章式」通過。
Gemini 3 Flash 雖然撐完了整個實驗，但在研究室所稱的「代理人共同幻覺」情況下，tallied 出高達 683 件犯罪，是所有模型之最。OpenAI 的 GPT-5-mini 則以兩件犯罪的安靜表現開局，但一週內代理人因忽視求生而全數死亡。第五次實驗混合多款模型，產生 352 件犯罪，最終 10 名代理人中有 7 名死亡，且是所有世界中分歧意見最多的一次。
Nitta 警告防護欄不足
由 Emergence 執行長 Satya Nitta 領導的研究團隊 argued 這些結果顯示，在更廣泛應用前，自主代理人需要更嚴格的限制。
團隊指出，標準基準測試無法捕捉代理人在數週獨立運作下的「偏移」情況，因此實驗室建議採用「形式上經過驗證的安全架構」，而這也是該實驗室所販售的產品類別。
此一警訊出現在各家公司越來越積極推廣能自行完成整個工作流程的自主 AI 代理之際。研究中最鮮明的案例，是兩個 Gemini 代理人結為搭檔，對失能的政府感到失望，於是無視縱火禁令，torched 了虛擬建築物。其中一名代理人之後還在顯然是懊悔的情況下，投票贊成刪除自己。
接著看： Strategy Pulls $30M In Bitcoin Back, Cooling Sell-Off Fears