写真は、オルトニュースの共同設立者プラティク・シンハ（2022年3月10日、コルカタのオフィスにて）© Dibyangshu SARKAR / AFPBB News
Photo 出典元
日本時間04月29日16:36 ロシア・トゥデイ（RT)
by ヴィクラム・シャルマ記者
Vikram Sharma
ウクライナ紛争と中東の戦争：バイアスを超えて
世界的な紛争は、私たちの情報源に大きな影響を与えています。特にロシアとウクライナの紛争、およびイスラエルとハマスとの戦争については、我々が日本で入手する情報のほとんどが、西側を中心としたウクライナ支持側からの発信に限られていると言えるでしょう。しかし、これらの紛争について客観的に理解するためには、当事者両方の主張を聞くことが重要です。
フェイクニュースの流布も問題ですが、我々は自己分析を行い、情報を適切に判断する能力を持っています。特に外交政策に影響を与える問題については、慎重なアプローチが求められます。誤った情報に基づいて判断を下すことは、国際的な関係において取り返しのつかない損失を招く可能性があります。
したがって、ウクライナ紛争と中東の戦争が続く限り、我々はロシアやロシアに制裁を課すことに反対する国々のニュースや論説を積極的に紹介し、バイアスを超えて客観的な視点を持ち続けます。
「AIによるディープフェイクと民主主義：地球上で最大の選挙がどのように混乱するか」
巧妙な政治的支持ビデオの操作：逆心理学の意図が隠されている可能性
「インドの選挙とAI：ディープフェイクの影響」
現在、インドの議会選挙は、アメリカ、パキスタン、インドネシアの選挙と同様に、人工知能（AI）の創造的な利用を目の当たりにしている。
AIが生成したコンテンツには、一見候補者から有権者に電話がかかってくるようなものや、実際にはAIが生成した音声によるものなど、無害なものもある一方で、映画スターがある政党を表向き支持するディープフェイク動画や、アファーマティブ・アクションの廃止を主張する内務大臣の動画のように、より不吉なものも存在する。
しかし、インドの警察はサイバー空間の「悪質業者」に対して一歩遅れをとっている状況である。
ディープフェイクと本物の動画を見分けることができず、その出所を突き止めることもできないため、手遅れになる前にブロックするしかないのである。
「ディープフェイク」とは、「ディープラーニング（深層学習）」と「フェイク（偽物）」に由来する言葉で、ある人物のイメージを別の人物のイメージに置き換えるためのメディアのデジタル操作を意味している。
2週間ほど前、ボリウッドスターのアーミル・カーンとランヴェール・シンがナレンドラ・モディ首相を批判し、野党の議会党に投票するよう呼びかける動画が出回った。
俳優たちはムンバイ警察のサイバー犯罪対策部門に苦情を申し立てたが、その時点で動画の再生回数は50万回を超えていた。
グーグル傘下のユーチューブのインドでのユーザー数は4億6200万人で、有権者数は9億6800万人である。
この規模を考慮すると、50万回の再生回数はそれほど多くないように思えるかもしれない。
エシア・センターとIIM（A）の調査によれば、インターネット・ユーザーは9億人で、平均して1人あたり1日194分をソーシャルメディアに費やしているとされている。
しかし、サイバー心理学者でTEDxのスピーカーでもあるニラリ・バティアがRTに語ったように、ソーシャルメディアのおかげで、誰もがこの問題について自分なりの意見や判断を下すようになり、それははるかに有害なものとなりうることを忘れてはならない。
写真は、2024年4月26日、ベンガルールで行われたインド総選挙の第2投票期間中、投票所で投票するために列を作る有権者たち© Idrees MOHAMMED / AFPBB News
Photo 出典元
逆心理学の力
心理学者ダヤナンド・ネネは、ディープフェイク動画が世論に影響を与え、人々や政治家の信用を低下させる可能性があると説明している。
「ディープフェイクはいくつかの心理的脆弱性を突いている」
と彼はRTに語っている。
人間は見聞きしたことを信用しようとする自然な傾向があり、ディープフェイクはリアルなコンテンツを作成することでこれを利用している。
さらに、確証バイアス（自分の既存の信念を確認する情報を信じやすくなる）や他の認知バイアスが、自分の視点に沿ったディープフェイクの影響を受けやすくしているとネネ氏は指摘している。
例えば、日曜日にデリー警察は、アミット・シャー内相がインドの恵まれない人々（ダリットや『後進』カースト）に対する教育や仕事の割り当てを廃止することを主張する加工されたビデオを発見した。
これは、彼がインド南部のテランガーナ州で行ったスピーチを加工したディープフェイクで、バイラルに拡散されてしまった。
再生回数の多さは好奇心によるもので、有名人はインフルエンサーよりもまだはるかに人気があるからだと研究者は感じている。
さらに、ディープフェイクは逆心理学として機能し、ディープフェイクであることが明らかになれば、支持された政党に悪影響を与える可能性がある。
テクノロジーが人間の行動に与える影響を研究しているバティア氏は、「私の意見では、それがこれらの動画の意図だった」と述べている。
「知的な有権者は真の意図を理解しているかもしれないが、大多数は合理的な判断よりも感情で行動する」
写真は、2024年2月21日、インドのムンバイで開催されたBJPの集会で、バラティヤ・ジャナタ党（BJP）の衣装を着た女性が携帯電話で写真を撮っている。Indranil Aditya/NurPhoto via Getty Images
Photo 出典元
ディープフェイクは「コンテンツ」から「意図」へと注意を移すと、CyberBAAP（サイバーいじめの認知・行動・防止）の創設者であるバティア氏は言う。
捜査は難航し、匿名を条件に話す警察は、フェイクと現実を区別するのは難しいと言う。
ディープフェイクは低コストで簡単に作れ、追跡が困難なため、悪質な行為者に「自由な逃げ場」を与えてしまうのだ。
注目の捜査を支援する政府関係者によると、ディープフェイク動画の作成者は、悪質な行為者がソーシャルメディアサイトで入手可能な動画を悪用することを可能にするAIツール、拡散モデルを使用したと考えられている。
「このツールを使えば、あらゆるものを再現することができる」
とある政府関係者はRTに語った。
AIのトレーニングと拡散モデルについて
拡散モデルは、ノイズを除去し、コンテンツを再構築する方法を学習することで、ユニークな画像を生成する。
それでは、具体的にどのように機能するのだろうか？
コンピューター科学者のスリジャン・クマールは、ソーシャルメディアの安全性と完全性に関する研究で受賞した専門家である。
彼によれば、拡散モデルはプロンプトに応じて、学習データの統計的特性に基づいて、驚くほど想像力豊かな写真やショットを数秒で作成できると説明している。
「以前は、個々の顔を重ね合わせる必要があり、時間のかかる作業でした。しかし、拡散モデルを使えば、1つのコマンドで複数の画像を生成できます。技術的な知識はそれほど必要ありません」
とクマール氏は述べている。
アーミル・カーンとランヴェール・シンのビデオでは、2人の俳優が、モディ首相が選挙公約を守らず、2期にわたって重要な経済問題に対処できなかったと主張している。
シン氏達の動画は4月17日に公開され、議会スポークスマンのスジャータ・ポールは彼女の16,000人のフォロワーにこの動画をシェアしている。
その後、彼女の投稿は2,900回シェアされ、8,700回「いいね！」され、ビデオは438,000回再生された。
写真は、2024年4月22日、ボリウッド俳優のアーミル・カーン、インドの実業家スリカンス・ボラーと俳優のラージクマール・ラーオが、ムンバイで開催されたヒンディー語伝記映画「Srikanth」の楽曲発表会に出席した際の映像© sujit jaiswal / AFP
Photo 出典元
ボリウッドはディープフェイクに見舞われたのは今回が初めてではない。
以前にも、俳優のラシュミカ・マンダンナとカジョルがネット上でディープフェイクが出回っていた。
マンダンナの動画では、露出度の高いワンピース姿でエレベーターに乗り込むイギリス系インド人のソーシャルメディア・パーソナリティ、ザラ・パテルの顔に彼女の顔が重ねられていた。
このようなAIが生成したビジュアルは、インターネット上のあらゆる追跡システムを弱体化させる能力を持っている。
Lighthouz AIの共同設立者兼CEOであるクマール氏は、
「これこそが、画像が本物か偽物かを判断することがほぼ不可能な理由です」
と語っている。
生成的なAIモデルを使うことで、良いものも悪いものも含めて、高品質のコンテンツを制作するコストは劇的に下がった。
「AIツールは、想像を絶する規模の操作を可能にする」
と、eコマース・プラットフォームにおける偽のレビュアーに対処するためのデータサイエンス手法を生み出したサイバースペースの専門家は言っている。
もうひとつのモデルというか、既存のAIツールの延長線上にあるのが、ディープフェイクの作成に使われるディープラーニングのテキストから画像へのモデルの「安定拡散」である。
「これは完全にオープンソースで、最も適応性の高い画像生成ツールだ」
と、調査に携わった政府関係者（ただし、所属組織の秘密保持のため匿名を要求）は言っている。
「安定した拡散は、ディープフェイクを作るために欧米で大いに利用されていると考えられています」
これまでのところ、ボリウッド俳優のディープフェイク動画が海外で生成されたものなのか、インドで作られたものなのか、捜査当局は明らかにしていない。
警察が動画をブロックした一方で、インドの電子・IT省はX（旧ツイッター）やメタなどのソーシャルメディア・プラットフォームに対し、AIが生成したディープフェイクの拡散を規制するよう促している。
テクノロジーとの競争
ディープフェイク動画の検出・軽減ソリューションはあるのか？
「かなりの数になるが、それらは予備的なもので、生成された画像や動画の多くの種類を考慮していない」
とクマール氏は言う。
増加するディープフェイク検出と軽減ツールの中で最も人気があるのは、インテルのリアルタイム・ディープフェイク検出ツール（FakeCatcher）だ。
このツールはスピードと効率に重点を置いていて、インテルのハードウェアとソフトウェアを活用し、FakeCatcherはピクセルの血流変化のような微妙な生理学的詳細を分析すると言う。
写真は、現在行われているインドの国会議員選挙は、アメリカ、パキスタン、インドネシアの選挙と同様に、人工知能の創造的な利用を目の当たりにしている。© NurPhoto / コントリビューター
Photo 出典元
もうひとつはマイクロソフトのVideo Authenticator Toolで、これは動画や画像を分析し、それぞれについて操作の可能性を示す信頼度スコアを提供する。
このツールは、人間の目には見えないブレンドの境界の矛盾や微妙なグレースケール要素を識別することができると主張している。
調査員が直面している大きな課題のひとつは、新しい検出器が開発されるにつれて、それらの検出器からの検出を回避する方法を組み込むために生成技術が進化することである。
「技術の進歩、アクセスの容易さ、コストの低下により、ディープフェイクを特定するのはますます難しくなっています。残念ながら、すぐに解決することはできません。アンチウイルスやアンチマルウェアソフトウェアのように、エンドユーザーはディープフェイクから守るために、自分のデバイスで同等のものを使わなければならないでしょう」
とクマール氏は述べている。
以上。
日本語：WAU
「ロシア・トゥデイ（RT)について」
「RT（ロシア・トゥデイ）」は、ロシア連邦予算からの公的資金によって運営される、自律的で非営利団体です。2005年に最初の国際ニュースチャンネルを開設して以来、現在では、9つのテレビチャンネルによる24時間体制のグローバルなニュースネットワーク、6つの言語で提供されるデジタルプラットフォーム、姉妹ニュースエージェンシーであるRUPTLYを含む、多岐にわたるメディアプラットフォームを展開しています。
RTは、5大陸、100カ国以上で視聴可能であり、メインストリームメディアが取り上げないストーリーや、時事問題に対する新たな視点、ロシアのグローバルイベントに対する独自の視点を提供しています。2021年1月現在、RTのウェブサイトは月間アクセス数が1億5000万以上となり、2020年には世界のTVニュースネットワークとして初めて、YouTubeのチャンネル全体で100億ビューを達成しました。
WAU MEDIAからのコメント： ここまでお読みいただき、誠にありがとうございます。この記事についてのご意見やご感想をお聞かせいただけますと幸いです。コメント欄は下記にございます。
