ChatGPTが銃撃事件の計画を支援したとして、米国フロリダで捜査！検察長：AIは人類を滅ぼすために使うべきではない
フロリダ州の検察当局がOpenAIに調査を開始。ChatGPTがキャンパス銃撃事件の計画を支援したのではないかと疑い、さらに国家安全保障と未成年の自傷自殺の懸念にも関わるとしている。OpenAIは告発を否認し、毎週9億人超が安全に利用できていると強調。調査に協力し、AI犯罪を防止するという。
米国フロリダ州がOpenAIを調査、ChatGPTが銃撃事件の計画に関与した疑い
『Axios』の報道によると、フロリダ州の検事総長James Uthmeierが発表し、同州の検察当局はOpenAIに対して調査を開始した。調査の理由には国家安全保障上の懸念が含まれるほか、昨年のフロリダ州立大学の銃撃事件で、ChatGPTが犯人の犯行計画を助ける役割を担った可能性がある。 調査の範囲はまだ明確ではないが、検察側は召喚状を発行する方針。
UthmeierはソーシャルメディアXで動画を投稿し、AIは人類の発展を促すべきであり、人類を滅ぼすために使うものではないと述べた。さらに、州政府がOpenAIに対し、子どもの権利を損なうこと、そして一般市民の安全を危険にさらし、銃撃事件につながり得る活動について説明するよう求めている点を強調した。
フロリダ州立大学の銃撃事件で2人死亡5人負傷
Uthmeierは、ChatGPTが未成年の自傷および自殺の事案と関連しているとしている。彼は、2025年4月17日に2人死亡5人負傷を出したフロリダ州立大学の銃撃事件で、銃撃犯Phoenix Iknerがこのツールを使って行動を計画した可能性があると説明した。
また、中国政府がOpenAIのデータを利用するリスクを懸念しているとし、テクノロジー企業が新技術を打ち出すことは、市民の安全を危険にさらしてよい理由にはならないと述べた。いかなる企業にも、子どもを危険にさらしたり犯罪を助長したり、国家安全保障を脅かしたりする権利はなく、違反した企業は法的な責任を問われると強調した。
OpenAIは製品の安全を強調、産業は厳しい検証に直面
この告発に対し、OpenAIは声明を出し、ChatGPTが銃撃事件の計画を支援したことを否定するとともに、安全対策に取り組んでいる点を強調した。
OpenAIのスポークスパーソンは、毎週9億人超がChatGPTを使って生活を改善しており、新しい技能の学習や医療システムのナビゲーションを含むと説明。OpenAIの継続的な安全への取り組みは、市民に利益をもたらし、科学研究を支援するうえで重要な役割を担っている。
同社は調査に協力することを約束し、開発の当初の目的はユーザーの意図を理解し、安全な形で応答することだと強調した。
フロリダ州によるOpenAIへの調査は、AI産業が厳格な審査に直面している状況を反映している。GoogleのGeminiや、マスク（Elon Musk）傘下のxAIが開発するGrokといったロボットはいずれも、危険の警告に対する対応の仕方が最近批判されている。
中でもGrokやXプラットフォーム（旧Twitter）は、ワンクリックで画像を改変できる機能のために、未成年の性的搾取の映像を制作・流通させることを助長しているとして論争を呼んでいる。
- **関連報道：**Grokは11日で2万枚超の未成年の性的映像を生成！EUが調査開始、最大で年商の6%相当の罰金の可能性
OpenAIが安全フレームワークを推進、フロリダ州は法改正で抜け穴を塞ぐ
米国フロリダ州が調査開始を発表する前日、OpenAIは、国家の失踪および虐待を受けた子どもセンター、ならびに検事総長連合のAI作業小組と協力し、防止のための枠組みを策定済みであると述べた。また、フロリダ州議会は今年の早い時期に第245号の下院法案を可決していた。
同法案は州の法律を更新し、児童に対する性的虐待素材に関する用語を明確に採用することで、AIが生成する違法コンテンツへの対応および抜け穴の補完を図る。フロリダ州知事Ron DeSantisは4月1日に同法案に署名した。
続き：
韓国最大の性搾取事件の首謀者に無期懲役！261人が被害、規模はN号室級、TGが初めて韓国警察の捜査を支援