「フェイク画像」の時代に求められる教育とは

オバマ前大統領にトランプ大統領を罵らせる

　今年4月、米国のニュースサイトであるバズフィードが公開した、とある動画が人々の注目を集めた。「オバマが信じられないことを言うビデオ（You Won’t Believe What Obama Says In This Video!） 」と題されたこの動画には、オバマ前米大統領が登場してこんなことをつぶやく。

　「キルモンガー（ハリウッドのヒーロー映画『ブラックパンサー』に登場する悪役）は正しい」「トランプ大統領は大バカ者」――タイトルの通り、オバマ前大統領が言うとは思えないようなセリフだ。

オバマ前大統領の「ディープフェイク」映像（YouTubeより。https://www.youtube.com/watch?v=cQ54GDm1eL0）

　当然ながら、これはフェイクである。画像や映像の加工技術がいかに進化したかを示すために、デモンストレーションとして制作された動画だ。実際には別の人物が行ったスピーチの様子を、オバマ大統領の姿と声に置き換えたのである。しかしその映像は非常になめらかで、デモだと知らされていなければ、本当だと信じてしまう人がいてもおかしくないほどの品質である。

　この映像を生み出したのは、いま話題のAI関連技術だ。「敵対的生成ネットワーク（Generative Adversarial Networks）」という英語の頭文字を取って「GAN」と呼ばれているのだが、簡単に言ってしまうと、「フェイクをつくってだまそうとするAI」と「それを見破ろうとするAI」を用意して両者を競わせる（敵対させる）というものである。そうして生成されるフェイク画像や映像は、そもそもだまし合いによって生まれてきたものだけに、AIですら見破るのが難しいという性質を持つ。そのため最近では、こうした非常に高度なフェイクを指す言葉として、「ディープフェイク」という呼び方まで登場している。

　ディープフェイクは名誉棄損や世論操作、選挙への介入など、具体的な被害を生み出しかねない。そのため一部の国々では、こうしたフェイクコンテンツの制作やフェイクニュースの流布自体を禁じてはどうかという議論が出ている。しかしデジタルコンテンツの海賊版と一緒で、作り手や発信者の側を完全に規制することはできないだろう。であれば受け手の側が、回って来たコンテンツが本当かどうか判断し、疑わしければ拡散に加担しないという姿勢を取ることが一層求められるようになると予想される。

画像の信頼性をどうチェックするか

　では人々は、インターネットで出回っている画像や映像の信頼性をどのように判断しているのだろうか。