海外の「コンテンツ農場」が政治的ディープフェイクを作成していることが判明

23時間前

シェア保存

ベン・サマー ニュースインパクト

シェア保存

ゲッティイメージズ

海外を拠点とする複数のページが、AI支援による偽のニュースをSNS上で英国の政治について投稿していることが、専門家によって警告された。

技術企業Metaは、BBCウェールズの調査により偽のニュースを拡散していたベトナム拠点の複数のページをFacebookから削除した。

この警告は、カーディフ大学のマーティン・イネス教授によるもので、英語圏の選挙に先立ち、ディープフェイクを検出し対策するソフトウェアを選挙管理委員会が開発している最中である。

BBCはまた、ウェールズのページが共有したAI生成の動画の例も明らかにしており、ウェールズの政治家が敵対候補を支持したり、同僚にキスしたりするなどの不適切な状況に偽装した内容を含んでいた。

複数のウェールズの政治家は、ディープフェイクの被害者としての経験をBBCに語った。

「このようなことをされていない政治家はほとんどいないと思います…声に出すととても悲しい気持ちになります」と労働党のアレックス・デイビス・ジョーンズ議員は述べた。

ディープフェイクとは何か？

ディープフェイクは、動画、画像、音声クリップをデジタルで改変または操作し、偽物を本物のように見せる技術である。

中には馬鹿げたものもあるが、他のものは評判を傷つける可能性もある。

また、テキストから画像を生成するAIツールの普及により、これらの作成はかつてないほど容易になっている。

ベトナム拠点のページが投稿した、ボリス・ジョンソン、ジア・ユスフ、ナイジェル・ファラージなどの政治家の画像は、彼らが病院にいるように見せかけるものであった。

BBCウェールズは、英国の政治家について偽のニュースを掲載するFacebookページを複数発見し、多くはAI生成の画像とともに投稿されていた。

これらのページはそれぞれ数千人のフォロワーを持ち、多くは同じ、または非常に似た内容を投稿していた。

名前は英国のニュース媒体を装っていることが多かったが、Facebookの透明性機能を使うことで、ほぼすべてのページがベトナムから運営されていることが判明した。

一部のニュースは実際のものであったが、多くは簡単に虚偽と証明できる内容だった。

Metaは、BBCからの連絡を受けてこれらのページの一部を削除したが、調査中も新たなページがほぼ毎日作成されていた。

これらのページは、ナイジェル・ファラージ、ボリス・ジョンソン、リシ・スナック、ジア・ユスフなど複数の政治家を同じ偽の状況に描いていた。例えば、激しい口論の末にBBCのインタビューを退出するシーンなどだ。

これらのページが、いかなる政党によって運営されている、または代表されているという証拠はない。

偽のラウラ・クエンスバーグとの口論も、複数の政治家が偽装されたシナリオの一つだった。

カーディフ大学の犯罪・安全保障研究所のイネス教授は、これらのページは「バイラルを狙ったコンテンツ農場」と述べた。

それらは、Facebookの収益化プログラムから収入を得ることもあるが、各ページが収益化されているかどうかは確かではない。

Facebookは、第三者のファクトチェッカーによって虚偽と証明されたストーリーに警告を付けている例もある。例えば、Reform UKのリーダー、ナイジェル・ファラージが病院にいるとされたストーリーをFull Factが否定した場合などだ。

しかし、これらの警告が付いていない非常に似たストーリーも多く存在した。

英国では、非合意のディープフェイクは現在違法である。どのように検出されているのか？

ニュースアプリが血まみれのアレックス・ジョーンズのAI広告を表示

これらのページが投稿した多くのストーリーは、ファラージ支持者の注目を集めることを目的としていたが、彼に対して好意的でない内容もあった。

中には、犬を飼う様子や、個人の資産を善意のために寄付する様子、赤ちゃんを迎える場面など、虚偽の描写もあった。

また、彼が逮捕されるシーンや、AI生成の写真で手錠をかけられる様子もあった。

多くの投稿は、リフォーム支持者の関心を引くことを狙ったものであったが、すべてが肯定的な内容ではなかった。

これらのページには、キア・スターマー氏やスターラー氏など他の政治家も登場し、舞台上で倒れた、選挙操作で訴えられ首相を辞任したと虚偽の情報を流していた。

政治家だけでなく、さまざまな有名人も同じ偽の状況に挿入されている例もあった。

イネス教授は、こうしたページは「利益追求のために動いている」と述べ、「お金を稼ぐためなら何でもやる」と語った。

これらの投稿の中には、多くの「いいね」やコメント、シェアを獲得しているものもあったが、フォロワー数が多いにもかかわらずほとんど反応がないものもあった。

イネス教授は、これらのページのフォロワー全員が実在の人間であるとは限らず、ページ運営者がボットを使って「アルゴリズムを欺き」、コンテンツを人々のフィードに流すこともあると指摘した。

コメント欄を見ると、これらの内容を信じていない人も多く、疑念や不快感を示す声もあった。

BBCが例を示したところ、MetaはいくつかのページをFacebookから削除した。

同社は、「非本物のアカウントやページの使用に反対する方針」を持っていると述べた。

ディープフェイクはウェールズ選挙にどのような影響を与えるのか？

ウェールズとスコットランドでは、5月7日に地方選挙と併せて分権選挙が行われる。

英国では、いわゆる「ディープフェイク選挙」の懸念が以前からあったが、その実現については意見が分かれている。

国立のデータサイエンス・AIセンターであるアラン・チューリング研究所は、「2024年の総選挙の結果に実質的な影響を与えた証拠はない」と結論付けている。

しかし、イネス教授は、「以前は画像や動画の操作にはかなりの計算能力と技術的知識が必要だったが、今はそれが不要になった」と述べた。

これにより、「浸透効果」が生まれ、動画が地方政治に影響を及ぼす可能性があるという。

選挙管理委員会が関与するほどのリスクは高い。

この独立機関は、英国の選挙を監督・規制しており、内務省と協力してディープフェイクを識別・追跡・報告するソフトウェアを開発している。

最高経営責任者のビジェイ・ランガラジャンは、「選挙期間中に誤情報を識別し、有権者の信頼を損なう活動を減らすのに役立つ」と述べた。

この発表を受けて、BBCは最近作成されたウェールズの政治家のAI生成偽動画をいくつか特定した。

これらの動画は合計で20万回以上視聴されている。

内容には、スターラー首相とウェールズのエルイナド・モーガン第一閣僚がキスをする偽の動画や、プライド・カムリーのリュン・アプ・イオルウェス党首が「リフォームを愛している」と叫ぶ動画も含まれる。

これらの動画の背後にあるFacebookページの運営者は、「明らかな風刺」と述べた。

彼らは、「常識を使ってほしい」と信頼を寄せているが、キャプションでは動画が偽物であることを示していた。

もう一つは、反リフォームのページが共有したもので、ナイジェル・ファラージが背後にウェールズの旗を掲げている動画だった。

動画では、彼が「イギリスは素晴らしい。4つの異なるスポーツチームと4つの異なる議会を持つ意味がわからない」と叫んでいる。

この言葉を彼が実際に発言した記録はなく、動画はAI生成に一致する歪みが見られた。

この動画の背後のページにはコメントも寄せられている。

イネス教授は、これらの例は「シャローフェイク」に近く、「ディープフェイク」ほど高度ではないと述べた。

しかし、フェイクの識別は「ますます難しくなっている」とし、より高度な例については一日かけて調査することもあると語った。

選挙管理委員会の対策は、「事後の理解に役立つかもしれないが」、選挙に影響を与えるディープフェイクを完全に止めることはできないとした。

ページが共有した偽のストーリーには、キア・スターラー氏が舞台上で倒れた、または首相を辞任したとする内容もあった。

ポンティプリッドの代表であるデイビス・ジョーンズ議員は、彼女が「ひどい」ディープフェイクに遭ったと述べ、その中には「下着姿の露骨な性的ポジションを取るもの」もあった。

彼女は、「非合意の性的ディープフェイクについて声を上げるのは恥ずかしいことだ」とし、「ターゲットにされやすくなる」と付け加えた。

また、存在は「健全な民主主義にとって良くない」と述べた。

カエル・パウエル氏は、カエルフィリーの補欠選挙でリフォームUKの候補者だったが、AI生成の動画で自分や同僚の言葉を歪めていたと語った。

彼は、「表現の自由と意見の自由を支持する」としつつも、「AIの悪用により、一部の人がそれを事実と誤認する問題がある」と指摘した。

「私たちはこの国の自由を犠牲にしたくないが、同時に国民はどのような情報を受け取っているのか知る権利があり、ツールの悪用も防ぐ必要がある」と述べた。

アバコニーの保守党MS、ジャネット・フィンチ・ソンダースは、彼女の写真が「非常に不快な方法で」編集され、露骨なディープフェイクになったのを見て、「気分が悪くなった」と語った。

彼女は、「技術に疎い人には非常に誤解を招く可能性があり、今はより高度な能力があるため、非常に心配だ」と述べた。

「政治の世界にいるときは…個人的に攻撃されるべきではない。ましてやAIを使った侮辱は絶対に許されない」とも。

プライド・カムリーの議員であるカルメン・スミス女史は、「ディープフェイクは民主主義にとって深刻な脅威だが、姉妹や友人、同僚など多くの人々にとっても脅威だ」と述べた。

「AIツールの進展について常に最新情報を把握し続ける必要がある。今すぐにでも対処すべき課題だ」と語った。

イングランドとウェールズのグリーン党副党首のレイチェル・ミルワードは、自身も「女性蔑視のディープフェイク」の被害に遭ったとし、英国政府に対し、こうしたコンテンツが「将来の選挙の正当性を損なうのを防ぐために」AIセクターの規制を求めた。

ウェールズのリベラル・デモクラットの広報担当者は、ディープフェイクは「政治的立場を問わず政治家の安全を脅かす」とし、「国境を越えた対策」が必要だと訴えた。

英国政府の科学・イノベーション・技術省は、「ディープフェイクが分裂を煽り、虚偽情報を拡散し、世論に影響を与える可能性は十分に認識されている」と述べた。

また、ソーシャルメディアプラットフォームには、「違法な詐欺コンテンツに積極的に対処する」義務があり、そうしなければ「法的措置を取る」と警告した。

• 分権：セネッドは何をしているのか？
• 解説：新しいセネッドの投票システムの仕組み
• 新しい選挙地図：私の選挙区はどこ？

BBCウェールズ Your Voice Live：リーダーに質問をして、ウェールズの政党のリーダーたちに質問を投げかけましょう。

こちらをクリック_して、4月8日にハバーフォードウェストでウェールズの保守党、プライド・カムリー、ウェールズリベラル・デモクラットのリーダーに質問を送ってください。_

こちらをクリック_して、4月15日にランダドノでウェールズ労働党、リフォームUK、ウェールズグリーン党のリーダーに質問を送ってください。_

トップストーリー

死体で発見された男性の謎解きに向けて公開された顔写真

娘（15歳）を横断歩道で轢き殺した運転手の判決に母親が困惑

テレビドラマ『ダラス』に出演したモデルが62歳で死去

ウェールズ

ソーシャルメディア

ウェールズ議会選挙2026

人工知能

ディープフェイク