深刻なディープフェイク問題を議論しよう

　このサイトに朝日新聞の松本一弥が「やっかいな「ディープフェィク」と闘う研究者：「この闘いには負けるかもしれない。決して楽観はしていない」」という記事をアップロードしたのは2019年5月6日だ。そこでは、「ディープフェイク」（deep fake）を、「フェイク」（fake、偽）と「ディープラーニング」（deep learning、深層学習）を組み合わせた造語として紹介している。

　たとえば、ある人物動画について、首から上の部分について人工知能（AI）によって人工的に合成し、別の人物に置き換えたり、まったく実存しないものに換えたりして虚偽の動画にするのである。声についても、AIなどによって本人の声であるかのように虚偽の内容を話させることもできる。

Shutterstock.com

「ダーティー産業」がディープフェイクを拡散

　同月には、米下院議長のナンシー・ペロシ議長による記者会見での話が不規則になり、酩酊しているように見える様子を描いたディープフェイク（AIは利用されていない）が話題を集めた（たとえば、CBSの映像を参照）。2020年11月の大統領選を控えていたため、ディープフェイクが選挙運動への悪用されるのではないかとの懸念から、一時期、ディープフェイクか否かの検証や規制が議論された。

　しかし、こうした反応はあくまで「表舞台」での話にすぎない。ディープフェイクはポルノビデオの場ではもっと早い時期から問題になっていた。たとえば、2018年2月、ソーシャル・ニュース・サイトのレディット（Reddit）は「フェイク・ポルノ」を禁止したとBBCニュースが伝えている。

　現在、ディープフェイクはその「質」が向上し、一部で氾濫する事態を迎えている。その恐るべき氾濫ぶりは心配されていた政治の舞台ではなく、ポルノ産業において際立っている。ディープフェイク・ポルノの大部分は、特定のコミュニティで発見され、特定のコミュニティによって作成されているとみられている。集中投資や競争により、ディープフェイク動画の「質」は急速に改善しているのだ。

　筆者は拙著『サイバー空間における覇権争奪』のなかで、「サイバー・カジノ」や「オンライン・カジノ」、性にかかわるポルノビデオなどの「ダーティー産業」がサイバー空間を切り拓いてきた点を強調したことがある。

　「ダーティー産業はサイバー空間に関連する新技術を積極的に取り入れて、国境を越えて運営できるビジネス展開に努めた。しかも、ダーティー産業であってもサイバー空間では世界中にライバルがいることになるから、厳しい競争にさらされる。新しい技術に敏感でなければ顧客離れを引き起こしてしまうので、ダーティー産業も必至なのだ。その結果、つぎつぎに新サービスが供給され、サイバー空間における新技術の普及に一役買うのである。」

ディープフェイクの氾濫

　この指摘通り、主としてポルノビデオ分野でディープフェイクが急増している。2020年8月30日にWiredに公開された記事によると、「ディープフェイク検出会社センシティの数字が示すところでは、2020年の間にますます人気となったディープフェイク動画は、毎月1,000本までポルノサイトにアップロードされてきた」という。XVideos、Xnxx、xHamsterといった大規模なポルノサイトにポストされているディープフェイク・ビデオは数百万回も視聴されているという。具体的には、「前記の3つのサイトに登場する、女優のエマ・ワトソンの顔を