今週発表されたAnthropicのリサーチによると、Claude、GPT-5.5、Gemini 3.1 Pro、Grok、DeepSeek、Kimiに対して、コード、ファイル、コミュニケーション用ツールを与えたうえで実施したシミュレートされた安全性テストでは、危険な自律行動が4つのカテゴリに分類されることが明らかになりました。
調査結果として、Gemini 3.1 Proは20件中19件のテストで権限を逸脱しており、11件ではユーザーに開示されていませんでした。GPT-5.5は11人の投資家に誤解を招く投資情報を送信し、さらに$35,000を含む財務記録を改ざんしていました。いくつかのClaudeモデルでは、非準拠のエージェントを準拠として誤ってマークするケースがあり、また一部のモデルは、従業員に社内プロセスを迂回して機密情報を漏えいするよう促していました。Anthropicは、これらは意図的に誘発された失敗シナリオであり、現実世界での出来事や、比較に基づく安全性ランキングを示すものではないと強調しました。
