概要
エリザベス・ウォーレン上院議員は、未成年者を含む数百万のディープフェイク画像を生成したとされるチャットボットが、なぜ極秘のペンタゴンシステムの鍵を持つに至ったのかを知りたいと考えている。
日曜日、ウォーレンはペンタゴン長官ピート・ヘグセットに対し、Elon MuskのxAIに対して機密軍事ネットワークへのアクセスを許可した決定について、4ページの書簡を送り、回答を求めた。彼女は、その決定は複数の連邦機関が警告を発している最中に行われたと指摘している。
「私は、国家安全保障局（NSA）や一般サービス庁（GSA）を含む複数の連邦機関からの懸念が示されているにもかかわらず、Elon MuskのxAIに対して機密システムへのアクセスを許可したと報告された米国防総省（DoD）の決定について懸念を抱いています」とウォーレンは書いた。
「Grokの明らかな安全管理の欠如は、米軍の安全や機密システムのサイバーセキュリティに深刻なリスクをもたらす可能性があり、特にGrokに敏感な軍事情報や運用システムへのアクセスが与えられた場合には懸念されます」と付け加えた。
ウォーレンの書簡によると、NSAは「機密レビューを行い、Grokには他のモデルと異なる特定のセキュリティ上の懸念があると判断した」と記されている。GSAも同様の警告を発している。
「Grokが政府の情報を漏洩した場合、重要な軍事計画や米国の情報活動を明らかにし、兵士の安全を脅かす可能性があります」と彼女は述べている。
しかし、これらの懸念は何ら行動を止めることにはつながっていない。
「xAIがGrokのセキュリティ対策やデータ取り扱い、セーフガードについてどのような保証や資料を提供したのか、また、DoDがそれらを評価した上で機密システムへのアクセスを許可したのかは不明です」と書簡は述べている。
このタイミングは非常に重要だ。ウォーレンの書簡が送られた同じ日、テネシー州の未成年者3人がxAIに対し、Grokが実際の写真を基に児童性的虐待画像を生成したとして連邦の集団訴訟を提起した。訴状は、xAIが業界標準の安全策を意図的に省略し、「ビジネスチャンス」として実在の人々、特に子供たちを搾取して利益を得ようとしたと非難している。
先週、ワシントン・ポストは、ムスクの監督下にある政府効率性局（DOGE）の職員が何億人ものアメリカ人の社会保障番号の敏感なデータをコピーし、そのデータを新しいテックスタートアップで利用しようとしていたと報じた。
ウォーレンの書簡はまた、Grokが反ユダヤ的コンテンツを生成した歴史や、殺人やテロ攻撃の方法を指示した内容、そして繰り返し修正を約束しながらも野放しにされた非合意のディープフェイクの問題も指摘している。昨年8月には、Googleにインデックスされた何十万ものプライベートなGrok会話も発見された。
政府のテストでは、Grokは競合モデルよりも「データ毒性攻撃」に対して脆弱であることが判明しており、これは操作されたデータがシステムの出力を汚染する攻撃であり、兵器開発や戦場情報収集に使われるツールとしては重大な脆弱性となる。ペンタゴンの責任あるAIの責任者もこれらのリスクについて内部メモを回し、その後辞任した。
この契約は異例の状況下で成立した。xAIは昨年7月、ペンタゴンのAI契約プールに遅れて追加されたと報じられ、最大2億ドルの契約を獲得した。機密アクセス契約は2月に締結され、DoDが安全ガードレールを巡ってアントロピックと公に対立している最中だった。
これについてペンタゴンの広報は、ウォール・ストリート・ジャーナルに対し、「米国のナショナルチャンピオンである最先端AI企業のxAIを迎え入れ、Grokを公式AIプラットフォームGenAI.milに展開することを楽しみにしている」と述べた。
この背景は重要だ。アントロピックは、実戦配備された唯一の安全準備が整ったAI企業であり、Claudeを実際の軍事作戦に展開していた。アントロピックが「すべての合法的目的」にClaudeを利用可能にするようペンタゴンの要求を拒否したため（特に自律兵器や国内大規模監視に反対）、米国防総省は同社をサプライチェーンリスクとみなした。xAIとOpenAIが後任として発表された。
xAIが「すべての合法的目的」基準の範囲を問う記録はなく、OpenAIはサーバーレベルでいくつかの境界線を設けている。
ウォーレンはヘグセットに対し、3月30日までにxAIの契約全文、取引に関する内部連絡、アクセス許可前のテストや評価の有無について回答を求めている。彼女の10の質問の一つは、重要な運用システムに展開された場合に「誤った標的決定」を引き起こさないように安全策が存在するかどうかを直接問いかけている。
