やっかいな「ディープフェィク」と闘う研究者

人々の脳裏に焼きついた合成画像

「ディープフェィク」問題についても取り組むシンディ・シェン＝カリフォルニア大学デービス校の研究室

　「ディープフェイク（deep fake）」――。そんな言葉が注目を集めている。

　明確な定義はないが、「フェイク」（fake、偽）と「ディープラーニング」（deep learning、深層学習）を組み合わせた造語ともいわれ、高度な画像生成技術を使って合成された動画または技術そのものを指すとされる。そうしてつくられた映像や動画はAI（人工知能）ですら「フェイク」と見抜くのは容易ではないという。

　米国の外交専門誌「フォーリン・アフェアーズ」は今年2月、テキサス大学オースティン校国際安全保障・法センターのロバート・チェズニー所長とメリーランド大学のダニエル・シトロン教授によるこんな論文を掲載して警鐘を鳴らした。

　「ディープフェィクが前代未聞なのは、そのクオリティーの高さ、音声や動画といった説得力のあるフォーマット、そして検出の難しさを兼ね備えていることだ。（中略）ディープフェィクは、これまで、信憑（しんぴょう）性の高いねつ造音声や動画を作る資源をもっていなかった反政府勢力やテロ組織など非国家アクターにとって特に便利なツールになるだろう。（中略）ディープフェィクによって、アメリカをはじめとする（民主）国家の国内政治を少しずつ切り崩すためのデマ戦争はさらに深刻になるはずだ」（「『ディープフェィク』とポスト真実の時代ーー偽情報戦争の政治・外交的インパクト」、「フォーリン・アフェアーズ・リポート」2019 No.2所収、64-65頁。）

　そんなディープフェィクを含めたフェイク画像の研究に取り組んでいる専門家に話を聞くため、米国カリフォルニア州デービス市に行った。広大なキャンパスの一角にある６階建てのれんが色の建物。学生と見間違うほど若々しい雰囲気のカリフォルニア大学デービス校准教授、シンディ・シェン（37）が３階の研究室で手がけているのは、ネット上にあふれる画像や動画を見た時、人々は何を根拠に「これは本物」「これはフェイク」と判断するのかをめぐる様々な実験だ。

　シェンがフェイク画像に関心を持ったのは2012年10月、ニューヨークなど米東海岸を大型ハリケーン「サンディ」が襲った際に出回った写真を目にしたのがきっかけだ。「サンディ」が去った後、合成画像が何種類も登場してネット上をにぎわせ、なかでも自由の女神像の背後に巨大な雲が黒々と渦巻いている写真が人々の目を引いた。

　この写真も後から合成画像だと判明したが、「本物ではない」とわかってもなお「サンディといえばあの写真」といった具合に人々の記憶に一度焼きついた画像は脳裏から消えず、研究者として「これは信頼性の度合いについての新たな問題だ」と感じたという。

　シェンはフェイクニュースをめぐる問題がさかんに報道された2016年の米大統領選のころから本格的に研究を開始。「文字媒体に関する研究はすでにいろいろ行われていたが、『操作された画像』についての研究はまだほとんどなされていないということに気がつきました」と当時を振り返る。

　他方、スマートフォン用の簡単なアプリが登場したこともあり、それまでは専門教育を受けた一部の研究者にしかつくれなかった操作画像が比較的容易につくれるようになってきたとシェン。「かつては『米航空宇宙局（NASA）の宇宙船アポロが月面に着陸した』という説明つきの写真が発表されると、みんな『これは本物だ』と一も二もなく信じたものです。でも操作画像技術の発達で『写真があるから本物』『これが証拠の写真』などとは簡単にはいえなくなってしまいました」 

「画像を信用するか否か」の判断は画像とは無関係

　カリフォルニア大学デービス校を含む三つの大学に所属する教授や、それぞれの学生たちと専門のリサーチグループをつくったシェンはまず、最初の実験で二つの対照的な調査対象を選定。一方のグループにはカリフォルニアというリベラルな土地で学んでいるカリフォルニア大学の学生たちを集め、もう一方のグループのメンバーには保守的とされるエリアのテキサス州にあるテキサス大学の学生たちを選んだ。

　これら二つのグループの学生たちに対し、シェンは「この災害写真はBBCが撮影した」などといったウソの説明を書き込んだ10枚ほどの「ものすごく操作したフェイク写真」を見せ、「あなたはこの写真を信用しますか」「どの程度信用しますか」と質問を重ねていった。「信じる」と答えた学生には「なぜ信じたのですか」「信じない」と答えた学生にも「なぜ信じないのですか」とそれぞれフォローアップの質問を行い、判断根拠となる理由を明らかにするよう求めた。

　この実験の結果、人々が画像を見たときに「信用する」「信用しない」と判断する根拠となっていたのは画像そのものではなく、そのまわりにある「コンテクスト（文脈）」、つまりは「名前の知られた新聞社やテレビ局が配信している」とか「何人かがフェイスブックで『いいね』ボタンを押している」など、画像とは直接的には関係のない情報をもとに判断しているということがわかったという。

3476人の被験者を対象にした実験

シンディ・シェンの研究室があるカリフォルニア大学デービス校の校舎

　その実験結果をもとに、3476人の被験者を対象にして、シェンは画像の信頼性に関するさらに突っ込んだ内容の二つ目の実験を実施した。

　用意した6枚の写真は、例えば「ビル・ゲイツがバズフィードの投稿をシェアした」もので、「同性愛家族のもとで育った子どもたちはより高いレベルの健康を持ち、家族との絆もあることが新しい調査で示唆された」などという偽の説明をつけた「子どもと一緒に写っている同性愛カップルの写真」。また、「ニューヨーク・タイムズから引用した」というウソの情報つきで「中国にある橋の一部が崩壊した写真」。さらには「遺伝子組み換え技術で生まれ、近い将来ペットショップで販売される」というデタラメな説明書きをつけた「猫の頭とねずみの体を持つ動物の写真」など。写真はいずれも画像操作を施したフェイク画像だ。

　そしてそれらのフェイク写真とニセの写真説明が、SNSを通じて人々の間に広くシェアされているかのような体裁を整えた上で、受け手がそれぞれの信頼度をどう判断するか、判断した場合はその根拠は何か――を細かくたずねた。

　また既存の報道機関から配信されたと設定した場合も、例えばニューヨーク・タイムズのウェブページ経由やフェイスブック経由、あるいはツイッター経由で受け手の判断がどう変わるかをみたり、「いいね」を押した人の人数によって受け手の判断がどう影響されるかを調べたりするなど、28通りもの条件を用意して受け手の判断根拠をていねいに調べていった。のちにシェンは「この実験はネット画像の信頼性をめぐる文脈評価に関する包括的実験」だとその意義を強調した。

予想外の実験結果に驚く

カリフォルニア大学デービス校准教授のシンディ・シェン＝同大学校の研究室

　「この実験を行うまでは、ブランド力のあるメディアが配信したら人々は信用するだろうとか私たちもいろいろ予想を立てていたのですが、まったく違った結果になりました」とシェンは話す。

　最初の実験結果とは大きく異なり、二度目の実験では実際に人々の判断を左右したのは二つのことだったという。