メインメニューをとばして、このページの本文エリアへ

news letter
RSS

深刻なディープフェイク問題を議論しよう

どうする? 周回遅れの日本の現状

塩原俊彦 高知大学准教授

 このサイトに朝日新聞の松本一弥が「やっかいな「ディープフェィク」と闘う研究者:「この闘いには負けるかもしれない。決して楽観はしていない」」という記事をアップロードしたのは2019年5月6日だ。そこでは、「ディープフェイク」(deep fake)を、「フェイク」(fake、偽)と「ディープラーニング」(deep learning、深層学習)を組み合わせた造語として紹介している。

 たとえば、ある人物動画について、首から上の部分について人工知能(AI)によって人工的に合成し、別の人物に置き換えたり、まったく実存しないものに換えたりして虚偽の動画にするのである。声についても、AIなどによって本人の声であるかのように虚偽の内容を話させることもできる。

拡大Shutterstock.com

「ダーティー産業」がディープフェイクを拡散

 同月には、米下院議長のナンシー・ペロシ議長による記者会見での話が不規則になり、酩酊しているように見える様子を描いたディープフェイク(AIは利用されていない)が話題を集めた(たとえば、CBSの映像を参照)。2020年11月の大統領選を控えていたため、ディープフェイクが選挙運動への悪用されるのではないかとの懸念から、一時期、ディープフェイクか否かの検証や規制が議論された。

 しかし、こうした反応はあくまで「表舞台」での話にすぎない。ディープフェイクはポルノビデオの場ではもっと早い時期から問題になっていた。たとえば、2018年2月、ソーシャル・ニュース・サイトのレディット(Reddit)は「フェイク・ポルノ」を禁止したとBBCニュースが伝えている。

 現在、ディープフェイクはその「質」が向上し、一部で氾濫する事態を迎えている。その恐るべき氾濫ぶりは心配されていた政治の舞台ではなく、ポルノ産業において際立っている。ディープフェイク・ポルノの大部分は、特定のコミュニティで発見され、特定のコミュニティによって作成されているとみられている。集中投資や競争により、ディープフェイク動画の「質」は急速に改善しているのだ。

 筆者は拙著『サイバー空間における覇権争奪』のなかで、「サイバー・カジノ」や「オンライン・カジノ」、性にかかわるポルノビデオなどの「ダーティー産業」がサイバー空間を切り拓いてきた点を強調したことがある。

 「ダーティー産業はサイバー空間に関連する新技術を積極的に取り入れて、国境を越えて運営できるビジネス展開に努めた。しかも、ダーティー産業であってもサイバー空間では世界中にライバルがいることになるから、厳しい競争にさらされる。新しい技術に敏感でなければ顧客離れを引き起こしてしまうので、ダーティー産業も必至なのだ。その結果、つぎつぎに新サービスが供給され、サイバー空間における新技術の普及に一役買うのである。」

全ジャンルパックなら本の記事が読み放題。


筆者

塩原俊彦

塩原俊彦(しおばら・としひこ) 高知大学准教授

1956年生まれ。一橋大学大学院経済学研究科修士課程修了。学術博士(北海道大学)。元朝日新聞モスクワ特派員。著書に、『ロシアの軍需産業』(岩波書店)、『「軍事大国」ロシアの虚実』(同)、『パイプラインの政治経済学』(法政大学出版局)、『ウクライナ・ゲート』(社会評論社)、『ウクライナ2.0』(同)、『官僚の世界史』(同)、『探求・インターネット社会』(丸善)、『ビジネス・エシックス』(講談社)、『民意と政治の断絶はなぜ起きた』(ポプラ社)、『なぜ官僚は腐敗するのか』(潮出版社)、The Anti-Corruption Polices(Maruzen Planet)など多数。

塩原俊彦の記事

もっと見る