ChatGPTが銃撃事件の計画を支援したとして、米フロリダで調査！検察長：AIは人類を滅ぼすために使うべきではない
フロリダ州の検察当局がOpenAIに調査を開始し、ChatGPTが校内での銃撃事件の計画に協力したのではないかと疑っており、さらに国家安全保障と未成年の自傷リスクに関する懸念も含まれる。OpenAIは告発を否定し、毎週9億人超が安全に利用していると強調し、調査およびAI犯罪の防止に協力するとしている。
米国フロリダ州がOpenAIを調査、ChatGPTが銃撃事件の計画に加担した疑い
Axiosの報道によると、フロリダ州の州検事総長James Uthmeierが発表し、同地の検察当局はOpenAIに対して調査を開始した。調査の理由には国家安全保障上の懸念が含まれ、さらに昨年のフロリダ州立大学銃撃事件で、ChatGPTが加害者の犯行計画を支援する役割を担った可能性があるという点が挙げられる。調査の範囲はまだ明らかになっていないが、検察当局は召喚状を発行する予定だ。
UthmeierはSNSプラットフォームXで動画を公開し、**AIは人類の発展を促すべきであり、人類を滅ぼすために使うべきではない。**と述べた。さらに、州政府はOpenAIに対し、子どもの権利への損害や、市民の安全を危険にさらし、銃撃事件につながった活動について説明するよう求めていると強調した。
フロリダ州立大学銃撃事件は2人死亡、5人負傷
Uthmeierは、ChatGPTが未成年の自傷および自殺事件と関連していると指摘した。2025年4月17日に2人死亡5人負傷となったフロリダ州立大学銃撃事件において、銃撃犯のPhoenix Iknerが当該ツールを使って行動を計画した可能性がある、と説明した。
また、OpenAIのデータが中国政府に利用されるリスクを懸念しており、さらに、テクノロジー企業が新技術を打ち出すことは、市民の安全を危険にさらしてよい理由にはならないと述べた。どの企業も、子どもに危害を加えたり、犯罪を助長したり、国家安全保障を脅かしたりする権限はなく、違反企業は法的に追及されると強調した。
OpenAIは製品の安全性を強調、産業は厳しい精査に直面
告発に対し、OpenAIは声明を出し、ChatGPTが銃撃事件の計画に協力したという指摘を否定し、安全対策への取り組みを強調した。
OpenAIの広報担当者は、毎週9億人超がChatGPTを使って生活を改善しており、新しいスキルの学習や医療システムのナビゲーションを含むとした。OpenAIの継続的な安全への取り組みは、市民に利益をもたらし、科学研究を支える上で重要な役割を担っている。
OpenAIは調査に協力することを約束し、開発の当初の意図はユーザーの意図を理解し、安全な方法で対応することだと強調した。
フロリダ州によるOpenAIの調査は、AI産業が厳しい審査に直面している時期を反映している。GoogleのGeminiや、マスク（Elon Musk）傘下のxAIが開発したGrokなどのロボットは、危険性の警告への対応の仕方が最近批判されている。
そのうちGrokや、Xプラットフォーム（旧Twitter）では、とりわけワンクリックで画像を変更できる機能のため、未成年の性的搾取に関する映像の制作や拡散を容認しているとの論争が起きている。
- **関連記事：**Grokが11日で2万枚超の未成年の性的映像を生成！欧州連合（EU）が調査開始、最大で年商の6%が科される可能性
OpenAIが安全フレームワークを推進、フロリダ州が修正法で抜け穴を塞ぐ
米国フロリダ州が調査開始を発表する前日のこととして、OpenAIは、国家の行方不明者および虐待を受けた子どもセンターと検察長官連盟のAIワーキンググループと協力して予防の枠組みを策定したと述べており、またフロリダ州議会は今年の初めに第245号の下院法案を可決していた。
同法案は州法を更新し、児童の性的虐待素材に関する用語を明確に採用することで、AIが生成する違法コンテンツに対処し、抜け穴を埋める。フロリダ州知事のRon DeSantisは4月1日に同法案に署名した。
続きの読み物：
韓国最大の性搾取事件の主犯に無期懲役！261人が被害、超N号室規模、TGが初めて韓国警察の捜査を支援