動画も信用できない時代、進化するAIが作るディープフェイクに真実は勝てるのか?

本記事はThe Conversationに掲載された、米国のRochester Institute of Technologyでコンピュータサイエンスを専門とするJohn Sohrawardi教授とコンピュータセキュリティMatthew Wright教授による記事「In a battle of AI versus AI, researchers are preparing for the coming wave of deepfake propaganda」をCreative Commonsのライセンスおよび執筆者の翻訳許諾の下、掲載するものです。

ある調査ジャーナリストが匿名の内部告発者からビデオを受け取りました。そのビデオには、大統領候補が違法行為を容認している姿が収められていました。このビデオに映っている出来事は本当なのでしょうか?もし本当だとしたら、世界中を騒がす大ニュースとなり、次期選挙の結果を大きく左右することでしょう。しかし、ジャーナリストによって、そのビデオが本当の出来事を映しているものではないことがわかりました。このことは特殊なツールを使ってビデオを観察することで明らかになりました。こうしたビデオはディープラーニングを用いた人工知能を使って作られたビデオで、一般的に「ディープフェイク」と呼ばれています。

世界中のジャーナリストが今回使用されたようなツールを使うようになるかもしれません。さらに数年後には、一般の人々もこうしたツールをソーシャルメディアのフィードにあるフェイクコンテンツを根絶するために使うようになるかもしれません。

ディープフェイクの検出を研究し、ジャーナリストのためのツールを開発してきた研究者として、私たちはこれらの技術の最先端を日々目にしています。そんな私たちは、これらのツールですべての問題が解決されるわけではなく、ツールはあくまでフェイクニュースとのより広範な戦いにおける武器の一部に過ぎないと考えています。

ディープフェイクの問題

ここ数十年の間に、ニュースに精通した消費者は、写真編集ソフトで加工された画像を見ることに慣れています。しかし、ビデオはまた別の話です。ハリウッドの監督は、リアルなシーンを作るために特殊効果に何百万ドルもかけています。しかし、ディープフェイクを使えば、数千ドルのコンピューター機器と数週間の時間をかけて、素人でもほぼ本物に近いものを作ることができます。

ディープフェイクを使えば、トム・クルーズがアイアンマンを演じているような本当ではあり得ない愉快な映像を作成することが可能になります。しかし、この技術により、本人の同意なしにポルノを作成することも可能になってしまいます。これまでのところ、ディープフェイク技術の悪用による被害者のほとんどが女性であることがわかっています。

ディープフェイクは、政治指導者が現実には言ってもいないことを発言しているビデオを作成するのにも使われます。例えばベルギー社会党は、トランプ大統領がベルギーを侮辱している内容の低品質のフェイクビデオを公開しました。

おそらく最も恐ろしいのは、ディープフェイクである可能性を示唆し、本物の動画の内容に疑念を抱かせるために利用される可能性があるということです。

このようなリスクを考えると、ディープフェイクを検出し、明確にラベルを貼ることができることは非常に価値のあることです。これにより、偽物の動画が人々を欺くことなく、人々が本物の動画を本物として受け止めることができるようになります。

偽物の見分け方

2,779ファンいいね
226フォロワーフォロー
2,464フォロワーフォロー

【12月6日更新】メディアのサブスクリプションを学ぶための記事まとめ

デジタルメディアの生き残りを賭けた戦略の中で世界的に注目を集めているサブスクリプション。月額の有料購読をしてもらい、会員IDを軸に読者との長期的な関係を構築。ウェブのコンテンツだけでなく、ポッドキャストやニュースレター、オンライン/オフラインのイベント事業などメディアの立体的なビジネスモデルをサブスクリプションを中核に組み立てていく流れもあります。

最新ニュース

「radiko」アプリが全面リニューアル

株式会社radikoは、いつでも、どこでも、無料...

アイティメディアの3Q業績、リードジェンと広告ともに好調で増収増益

アイティメディア株式会社が31日に発表した202...

凸版印刷「TOPPANアバターアテンドサービス」を開発 遠隔地からアバターを介した接客

凸版印刷株式会社は、遠隔地からサイネージに表示さ...

LINE BLOG、6月29日でサービス終了

LINE BLOGが、「重要なお知らせ」として、...
The Conversation
The Conversationhttps://theconversation.com/
The Conversationは2016年に設立された研究者や専門家によるニュースやオピニオンを伝えるメディアです。

関連記事