やっかいな「ディープフェィク」と闘う研究者

人々の脳裏に焼きついた合成画像

「ディープフェィク」問題についても取り組むシンディ・シェン＝カリフォルニア大学デービス校の研究室

　「ディープフェイク（deep fake）」――。そんな言葉が注目を集めている。

　明確な定義はないが、「フェイク」（fake、偽）と「ディープラーニング」（deep learning、深層学習）を組み合わせた造語ともいわれ、高度な画像生成技術を使って合成された動画または技術そのものを指すとされる。そうしてつくられた映像や動画はAI（人工知能）ですら「フェイク」と見抜くのは容易ではないという。

　米国の外交専門誌「フォーリン・アフェアーズ」は今年2月、テキサス大学オースティン校国際安全保障・法センターのロバート・チェズニー所長とメリーランド大学のダニエル・シトロン教授によるこんな論文を掲載して警鐘を鳴らした。

　「ディープフェィクが前代未聞なのは、そのクオリティーの高さ、音声や動画といった説得力のあるフォーマット、そして検出の難しさを兼ね備えていることだ。（中略）ディープフェィクは、これまで、信憑（しんぴょう）性の高いねつ造音声や動画を作る資源をもっていなかった反政府勢力やテロ組織など非国家アクターにとって特に便利なツールになるだろう。（中略）ディープフェィクによって、アメリカをはじめとする（民主）国家の国内政治を少しずつ切り崩すためのデマ戦争はさらに深刻になるはずだ」（「『ディープフェィク』とポスト真実の時代ーー偽情報戦争の政治・外交的インパクト」、「フォーリン・アフェアーズ・リポート」2019 No.2所収、64-65頁。）

　そんなディープフェィクを含めたフェイク画像の研究に取り組んでいる専門家に話を聞くため、米国カリフォルニア州デービス市に行った。広大なキャンパスの一角にある６階建てのれんが色の建物。学生と見間違うほど若々しい雰囲気のカリフォルニア大学デービス校准教授、シンディ・シェン（37）が３階の研究室で手がけているのは、ネット上にあふれる画像や動画を見た時、人々は何を根拠に「これは本物」「これはフェイク」と判断するのかをめぐる様々な実験だ。

　シェンがフェイク画像に関心を持ったのは2012年10月、ニューヨークなど米東海岸を大型ハリケーン「サンディ」が襲った際に出回った写真を目にしたのがきっかけだ。「サンディ」が去った後、合成画像が何種類も登場してネット上をにぎわせ、なかでも自由の女神像の背後に巨大な雲が黒々と渦巻いている写真が人々の目を引いた。

　この写真も後から合成画像だと判明したが、「本物ではない」とわかってもなお「サンディといえばあの写真」といった具合に人々の記憶に一度焼きついた画像は脳裏から消えず、研究者として「これは信頼性の度合いについての新たな問題だ」と感じたという。

　シェンはフェイクニュースをめぐる問題がさかんに報道された2016年の米大統領選のころから本格的に研究を開始。「文字媒体に関する研究はすでにいろいろ行われていたが、『操作された画像』についての研究はまだほとんどなされていないということに気がつきました」と当時を振り返る。

　他方、スマートフォン用の簡単なアプリが登場したこともあり、それまでは専門教育を受けた一部の研究者にしかつくれなかった操作画像が比較的容易につくれるようになってきたとシェン。「かつては『米航空宇宙局（NASA）の宇宙船アポロが月面に着陸した』という説明つきの写真が発表されると、みんな『これは本物だ』と一も二もなく信じたものです。でも操作画像技術の発達で『写真があるから本物』『これが証拠の写真』などとは簡単にはいえなくなってしまいました」