やっかいな「ディープフェィク」と闘う研究者

「画像を信用するか否か」の判断は画像とは無関係

　カリフォルニア大学デービス校を含む三つの大学に所属する教授や、それぞれの学生たちと専門のリサーチグループをつくったシェンはまず、最初の実験で二つの対照的な調査対象を選定。一方のグループにはカリフォルニアというリベラルな土地で学んでいるカリフォルニア大学の学生たちを集め、もう一方のグループのメンバーには保守的とされるエリアのテキサス州にあるテキサス大学の学生たちを選んだ。

　これら二つのグループの学生たちに対し、シェンは「この災害写真はBBCが撮影した」などといったウソの説明を書き込んだ10枚ほどの「ものすごく操作したフェイク写真」を見せ、「あなたはこの写真を信用しますか」「どの程度信用しますか」と質問を重ねていった。「信じる」と答えた学生には「なぜ信じたのですか」「信じない」と答えた学生にも「なぜ信じないのですか」とそれぞれフォローアップの質問を行い、判断根拠となる理由を明らかにするよう求めた。

　この実験の結果、人々が画像を見たときに「信用する」「信用しない」と判断する根拠となっていたのは画像そのものではなく、そのまわりにある「コンテクスト（文脈）」、つまりは「名前の知られた新聞社やテレビ局が配信している」とか「何人かがフェイスブックで『いいね』ボタンを押している」など、画像とは直接的には関係のない情報をもとに判断しているということがわかったという。

3476人の被験者を対象にした実験

シンディ・シェンの研究室があるカリフォルニア大学デービス校の校舎

　その実験結果をもとに、3476人の被験者を対象にして、シェンは画像の信頼性に関するさらに突っ込んだ内容の二つ目の実験を実施した。

　用意した6枚の写真は、例えば「ビル・ゲイツがバズフィードの投稿をシェアした」もので、「同性愛家族のもとで育った子どもたちはより高いレベルの健康を持ち、家族との絆もあることが新しい調査で示唆された」などという偽の説明をつけた「子どもと一緒に写っている同性愛カップルの写真」。また、「ニューヨーク・タイムズから引用した」というウソの情報つきで「中国にある橋の一部が崩壊した写真」。さらには「遺伝子組み換え技術で生まれ、近い将来ペットショップで販売される」というデタラメな説明書きをつけた「猫の頭とねずみの体を持つ動物の写真」など。写真はいずれも画像操作を施したフェイク画像だ。

　そしてそれらのフェイク写真とニセの写真説明が、SNSを通じて人々の間に広くシェアされているかのような体裁を整えた上で、受け手がそれぞれの信頼度をどう判断するか、判断した場合はその根拠は何か――を細かくたずねた。

　また既存の報道機関から配信されたと設定した場合も、例えばニューヨーク・タイムズのウェブページ経由やフェイスブック経由、あるいはツイッター経由で受け手の判断がどう変わるかをみたり、「いいね」を押した人の人数によって受け手の判断がどう影響されるかを調べたりするなど、28通りもの条件を用意して受け手の判断根拠をていねいに調べていった。のちにシェンは「この実験はネット画像の信頼性をめぐる文脈評価に関する包括的実験」だとその意義を強調した。