本記事はThe Conversationに掲載された、米国のRochester Institute of Technologyでコンピュータサイエンスを専門とするJohn Sohrawardi教授とコンピュータセキュリティMatthew Wright教授による記事「In a battle of AI versus AI, researchers are preparing for the coming wave of deepfakepropaganda」をCreative Commonsのライセンスおよび執筆者の翻訳許諾の下、掲載するものです。
ある調査ジャーナリストが匿名の内部告発者からビデオを受け取りました。そのビデオには、大統領候補が違法行為を容認している姿が収められていました。このビデオに映っている出来事は本当なのでしょうか？もし本当だとしたら、世界中を騒がす大ニュースとなり、次期選挙の結果を大きく左右することでしょう。しかし、ジャーナリストによって、そのビデオが本当の出来事を映しているものではないことがわかりました。このことは特殊なツールを使ってビデオを観察することで明らかになりました。こうしたビデオはディープラーニングを用いた人工知能を使って作られたビデオで、一般的に「ディープフェイク」と呼ばれています。
世界中のジャーナリストが今回使用されたようなツールを使うようになるかもしれません。さらに数年後には、一般の人々もこうしたツールをソーシャルメディアのフィードにあるフェイクコンテンツを根絶するために使うようになるかもしれません。
ディープフェイクの検出を研究し、ジャーナリストのためのツールを開発してきた研究者として、私たちはこれらの技術の最先端を日々目にしています。そんな私たちは、これらのツールですべての問題が解決されるわけではなく、ツールはあくまでフェイクニュースとのより広範な戦いにおける武器の一部に過ぎないと考えています。
目次
ディープフェイクの問題
ここ数十年の間に、ニュースに精通した消費者は、写真編集ソフトで加工された画像を見ることに慣れています。しかし、ビデオはまた別の話です。ハリウッドの監督は、リアルなシーンを作るために特殊効果に何百万ドルもかけています。しかし、ディープフェイクを使えば、数千ドルのコンピューター機器と数週間の時間をかけて、素人でもほぼ本物に近いものを作ることができます。
ディープフェイクを使えば、トム・クルーズがアイアンマンを演じているような本当ではあり得ない愉快な映像を作成することが可能になります。しかし、この技術により、本人の同意なしにポルノを作成することも可能になってしまいます。これまでのところ、ディープフェイク技術の悪用による被害者のほとんどが女性であることがわかっています。
ディープフェイクは、政治指導者が現実には言ってもいないことを発言しているビデオを作成するのにも使われます。例えばベルギー社会党は、トランプ大統領がベルギーを侮辱している内容の低品質のフェイクビデオを公開しました。
おそらく最も恐ろしいのは、ディープフェイクである可能性を示唆し、本物の動画の内容に疑念を抱かせるために利用される可能性があるということです。
このようなリスクを考えると、ディープフェイクを検出し、明確にラベルを貼ることができることは非常に価値のあることです。これにより、偽物の動画が人々を欺くことなく、人々が本物の動画を本物として受け止めることができるようになります。
