米国の弁護士がAIの幻覚を引用し制裁を受ける、Thomson Reuters傘下ツールの誤り率が17％を超える

米国の弁護士 Tyrone Blackburn は、エンターテインメント会社 Roc Nation の裁判書類で AI による偽造の引用文を再び持ち出したとして、連邦判事から再び厳しく叱責され、AI 幻覚問題による制裁を受けたのは今回で3度目となった。Lexis+ AI と Thomson Reuters 傘下の AI ツールのテストでは、17％超で誤った情報が出ており、テストによっては誤り率が最大 34％ に達していた。

Roc Nation 訴訟における AI による偽造引用と過去の不祥事記録

（出典：Court Listener）

判事 Jennifer Willis の命令により、弁護士 Tyrone Blackburn は、ラップ歌手 Fat Joe のコラボアーティストである Terence Dixon の「雇用関連の不当行為」で Roc Nation と Fat Joe を提訴した件で提出した反対意見書に、AI によって生成された疑いのある虚偽の引用文を含めた。Willis 判事はこの行為を「重大なモラルおよび職業上の義務違反」とし、Blackburn の説明は「厚かましくも自らの行為を軽く見せている」と指摘した。

Blackburn の過去の不祥事記録には、昨年12月にニュージャージー州の連邦裁判所で AI による偽造事例を引用したとして処分を受けたこと、さらにペンシルベニア州の連邦判事が、捏造した引用行為に対して彼に 5,000 米ドルの罰金を科したことが含まれる。

Blackburn は裁判所の命令に対応するが、なおも起訴内容を否認すると述べた。Roc Nation と Fat Joe もまた、Dixon のすべての主張を否認している。

世界の AI 法廷幻覚データ：1,667 件

研究者 Damien Charlotin が追跡する世界データベースによると、AI 法廷幻覚の事案データおよび代表的な事例は以下のとおり：

2026 年中の件数：1,667 件（前年の 230 件から約7倍増）

ミシシッピ州の事案：4人の弁護士が AI 幻覚を含む書類を提出したとして、判事 Sharion Aycock に代理人資格を取り消され、それぞれ 1,000〜3,500 米ドルの罰金を科された。Williams と Wilson は2年間の出廷禁止となり、そのうち1人は「AI が事件を捏造できることを知らなかった」と主張した。

Sullivan & Cromwell の謝罪：2026 年4月、同弁護士事務所は Prince Group の破産案件で幻覚を含む誤った書類を提出したとして、判事に宛てて謝罪の手紙を送った。手紙には、誤った「米国破産法典」や誤った判例の引用が含まれている。

よくある質問

なぜ弁護士は、AI に幻覚問題があることを知りながら未検証の AI 出力を使い続けるのか？

報道によると、理由には次のようなものがある。AI 幻覚現象を理解していない弁護士がいること（ミシシッピ州の事案で弁護士が「AI が事件を捏造できることを知らなかった」と述べた例）；AI ツールが書類作成のために日常的に使われる一方で、検証手順が確立されていないこと（Sullivan & Cromwell の件で「AI の方針が遵守されていなかった」）；そして、提出前の二次審査が十分に厳格でないこと。米国弁護士協会は 2025 年6月に、AI の出力を検証しないことは、職務上の義務違反にあたる可能性があると警告していた。

Thomson Reuters と Lexis+ AI の法務ツールの誤り率はどれくらい高い？

報道によると、Lexis+ AI と Thomson Reuters（NYSE: TRI）傘下の AI ツールに関するテストでは、17％超のケースで誤った情報が出ていた。あるテストでは、誤り率が最大 34％ にまで達していた。具体的なテスト方法や条件は、関連する調査報告に基づく。

AI ツールを使って法律文書を作成することは違法？

報道によると、法律が弁護士による AI の使用を禁じているわけではない。しかし、提出するすべての文書が正確であることを確保する義務がある。2026 年2月、全米の裁判所センターは AI 幻覚が司法システムに対する深刻な脅威だと警告しており、多くの案件で、AI 出力の検証を怠った弁護士が罰金、代理人資格の喪失、法廷からの命令（禁令）などの結果に直面している。