コロナで増えるネットの誹謗中傷　「炎上」あおるメディアにも責任　対応策は…

　インターネット上に広がる誹謗中傷やいじめ、デマ、差別、嘲笑……。ネット社会の広がり、IT技術の発展、ソーシャルメディアの普及などに伴う「暴力」ともいえる状況が近年、ますます深刻になっています。「論座」のコメント欄にも誹謗中傷やヘイトに類することが書き込まれる例が少なくありません。

　そこで「論座」では、こうした事態について多角的に論じることを通じ、コメント欄を改革する方法を探ることにしました。筆者・読者にとって意義があり、議論の輪が広がっていく、そんなコメント欄ができないか、皆さんとともに考えていきたいと思います。

　「論座」は、これまでもネットの誹謗中傷やコメント欄などに関する記事を公開してきましたが、今後も積極的に公開していきます。今回は、ネットメディアの問題に詳しい国際グローバル・コミュニケーション・センター准教授の山口真一さんに、ネット上の誹謗中傷や炎上の現状、世界や日本の対応、コメント欄改革のアイデアなどについてお聞きました。コメント欄にご意見をお寄せいただければ幸いです。（聞き手　論座編集部・吉田貴文）　

コメント欄で誹謗中傷を書き込む人と相性抜群、ネットメディアの構造的矛盾

「コメント欄が誹謗中傷等で地獄化する問題」について対抗策を6つ考えた

ニュースサイトや言論サイトのコメント欄は有害無益である

アルゴリズム社会の〝統治者〟　プラットフォーム監視は責務

コロナで増加したネットの「炎上」

――ツイッターなどのSNSは、誰もが気軽に発信できるツールとして、人々の暮らしを豊かにするはずのものでした。また、ネットサイトの運営者としては、サイトに設けられたコメント欄を、一般の人の意見を知る場として建設的な議論に役立てたいと考えていました。ところが現実には、誹謗中傷や差別、いじめ、悪意に満ちた言説、個人を陥れるような言説が目立ち、社会問題化しています。こうした状況についてどう見ますか。

山口　ネット上の誹謗中傷やいじめは確実に増えています。たとえば、ある個人や企業の行為・発言・書き込みに対し、ネット上で多数の批判や誹謗中傷がおこなわれる「炎上」は、デジタル・クライシス総合研究所の調査によると2020年に約1400件発生しています。1年は365日なので一日あたり4件弱が発生している計算です。今日もどこかで誰かが炎上しているわけです。

　2021年の件数は、私が耳にしているところでは、1766件に増えました。2019年が約1200件だったので、毎年数百件ずつ増えています。気になるのは、新型コロナウイルスの感染拡大以降、急増している点です。2020年4月に最初の緊急事態宣言が出た時のネットの炎上件数が、前年同月比の3.4倍にのぼっているのは象徴的です。

PVのためにあおるオンラインメディア

――コロナ感染が影響していると。

山口　コロナの蔓延で社会不安が増したこと、SNSの利用時間増が炎上を増やしているのは間違いないと考えています。もうひとつの要因はメディアですね。

――メディアですか？

山口　データによると、2019年には「炎上」がメディアに登場する頻度は約60%でした。それが2020年には75%、2021年には90%以上になりました。ほとんどの「炎上」がメディアで報道されています。ページビュー（PV）が稼げるから、デジタルメディアがこぞって炎上を取り上げた。背景にあるのは、いわゆる「アテンション・エコノミー」です。

――アテンション・エコノミー。情報の優劣よりも、注目を集めることが重要視され、それが経済的な価値を持つということですね。

山口　そうです。PVを稼ぐため、興味を引こうという競争が過熱し、「炎上」を取り上げるメディアが増えました。ちょっと批判されたものも「炎上」という風に取り上げることで、本当の「炎上」になってしまう。オンラインのメディアが中心になってあおっていますが、時にマスメディアが“拡声器”になることもあります。

四六時中、批判にさらされることのつらさ

――ネット上で多数の批判や誹謗中傷を受けるとダメージは大きいですね。

山口　オンライン上での誹謗中傷はほぼ毎日起こっていて、総務省の違法・有害情報センターに寄せられる相談件数も年間約5000件で高止まりしています。問題のひとつに「ネットいじめ」がありますが、これの一番怖いところは、学校や職場など「いじめの現場」から離れていても、ネット上では24時間、いじめられるということです。

　どこにいてもネットで四六時中、批判にさらされるのは、相当にきつい。昨年（2021年）春に、北海道旭川市で女子中学生が凍死してしまったケースも、「ネットいじめ」が影響していると言われています。2020年5月には、ネット上の誹謗中傷で女子プロレスラーの木村花さんが亡くなっています。

　私の分析では、炎上1件につき誹謗中傷などネガティブな投稿をしている人の数は、中央値をとって250人ぐらい、平均2000人ぐらいと推計されました。ネットユーザー全体からするとごく少数（中央値で約0.00025%）ですが、だからといって、気にしなくてもいいという話ではない。企業ならまだしも、一個人がたとえば200人から常に誹謗中傷されたら、命を絶つのに十分なつらさだと思います。

ネット上の誹謗中傷は明らかな暴力

――ネット上で誹謗中傷は明らかに悪質な暴力ですね。そこで対象になるのは弱い立場の人たち、たとえば女性、少数者などが多いようです。2020年の国連の調査によると、女性や若者、特にミレニアル世代、Z世代がターゲットになりやすいという傾向が明らかだといいます。国連人口基金は昨年実施した「＃STOPデジタル暴力キャンペーン」で、ネット上での誹謗中傷やいじめ、嫌がらせなどを「デジタル暴力」と名付け、問題提起をしています。

山口　「デジタル暴力」という分かりやすい言葉で表現するのはいいと思います。ネット上であっても、他人を傷つける行為は「暴力」なんだと。議論の余地なく悪いことだと人々に印象づける効果は強いと思いますね。

※デジタル暴力

　国連人口基金（UNFPA）は昨年11月から12月にかけて実施した「＃STOPデジタル暴力キャンペーン」で、ネット上の誹謗中傷やいじめ、嫌がらせなどを「デジタル暴力」と名付けました。

国連人口基金駐日事務所のホームページから

　UNFPA駐日事務所によると、UNFPAはオンライン上のジェンダーに基づく暴力を包括的に表す用語としては「Technology-facilitated Gender-based Violence（テクノロジーによって促進されたジェンダーに基づく暴力）」を用いますが、日本では普及しにくい表現であると考え、有識者、関係省庁や広告代理店などの意見を参考に、日本国内でのキャンペーンには「デジタル暴力」を用いることにしました。

　デジタル暴力には様々な形態があります。ネット上で女性を脅したり、ストーキングをしたり、許可なく女性や少女の顔写真と性を強調した別人の体を組み合わせ、何年にもわたってネットやSNS上で広めるたりすることもあります。政治家やジャーナリスト、女性の権利を守る活動家など、公的な役割を担う女性を標的として、オンライン上でヘイトスピーチや悪質な誹謗中傷などを行い、長期にわたる精神的な苦痛を与えたり、自死に追い込んだりすることもあります。UNFPAはキャンペーン特設ページ（The Virtual is Real）で以下のような例を挙げています。

・ドキシング（doxxing）：不当に入手した他人の実名や住所、電話番号、メールアドレス、家族に関する情報などをネットに公開すること。恨みをもって、嫌がらせ目的で行われることが多く「さらし」とも呼ばれます。
・サイバーモブ（cybermob）：大勢の人が特定の個人をターゲットにし、オンライン上で攻撃、脅迫、辱めること。
・画像を使った嫌がらせ（image-based abuse）：他人の性的な画像を用いて、オンライン上で攻撃、嫌がらせを行ったり、辱めたりすること。同意を得ずにパートナーの性的な画像を送る行為や、子どもへの性的な虐待を写した画像を送る行為などが挙げられます。
・なりすまし（online impersonation）：悪質な目的のために偽のプロフィールを作成したり、本人であるかのように詐称したりして、評判を傷つけたり、安全を脅かしたりすること。
・セクストーション（sextortion）：オンライン上の脅迫の一つ。金銭、性行為、性的な画像の送付を要求し、応じなければプライベートな画像や個人情報などを公開すると脅すこと。
・サイバーストーキング（cyberstalking）：ソーシャルメディアなどで被害者を標的に、攻撃や中傷を執拗に行ったり脅迫メッセージを送ったりすることで、執拗につきまとうストーカー行為。ネットストーカーとも呼ばれている。
・ネットいじめ（cyberbullying）：オンライン上の嫌がらせの形態のひとつ。IT技術を用いて被害者に継続的かつ意図的なダメージを与えるもの。
・オンラインハラスメント（online harassment）：屈辱的、攻撃的、侮蔑的な言葉や画像を送り、継続的に他人を脅し、悩ませ、怯えさせ、苦しめること。性的な内容を含む場合は、オンライン・セクシュアルハラスメントという。
・リベンジポルノ（revenge porn）：画像を使った嫌がらせの一つ。性的な画像を本人の了承なく他者と共有すること。リベンジポルノという言葉は広く使われているが、被害者が画像の共有に同意した、または、被害者が報復されるほど悪いことをした、と捉えられる可能性があるので好ましいとは言えない。
・シャローフェイク（shallowfake）：他人の体に被害者の顔を組み合わせる等、編集ソフトで加工された画像。AIが関わる巧妙なものは、ディープフェイクと呼ばれる。

　コロナ禍で、特に若者がインターネットやSNSに触れる時間が増えたことで、デジタル暴力の増加に拍車がかかっています。また、国境や制度を越えて広がるデジタル暴力を食い止めるには、規制当局、テクノロジー企業、デジタル活動家、女性の権利支援者の間で、新しい考え方と新しいかたちの協力が必要です。

　この対策としてUNFPAでは、女性のからだの権利侵害を著作権(copyright©)侵害と同様に深刻なことだと認識してもらうために、「bodyright」、つまり“からだのコピーライト”というコンセプトを提唱してキャンペーンを展開し（参照）、デジタルサービスを提供する会社やプラットフォーマー、さらに若い世代の問題意識を高め、課題解決に取り組む環境を作る取り組みも始めました。

　今後の取り組みのひとつとしてUNFPAは専門家会議（Expert roundtables）の開催を予定しています。企業、各国政府、ジェンダーに基づく暴力に対応する関係者、研究者、活動家らを招き、デジタル暴力に関するデータ収集やリサーチ、対策、予防、既存の法制度や政策の見直し、成功事例、今後の対策などについて議論する場を設けることを目的としています。

　UNFPAは、このような活動を通して、各国のデジタル暴力に関する法律が整備され、プラットフォーマーやメディアなどが、デジタル暴力の実態を把握し、中長期的な対策を講じることを促す取り組みを継続していきます。

正義感から投稿、傷つけている感覚なし

――現実に人を死に追いやるほどの「暴力」なのに、当事者には自分がひどいことをしているという心の痛みはないものでしょうか。

山口　私の調査では、「炎上」に書き込んでいる人の約6、7割が正義感から、自分が正しくて相手が悪いと思って書いています。ネットいじめでも、いじめられている側が悪いと思って攻撃しています。その人の価値観にそって「正邪」を判断し、他者を裁くというのが、典型的な形です。自分が正しいと思っているから、相手を傷つけているという感覚がない。そこがやっかいなところです。

　とはいえ、気付いてないだけの人もいます。そういう人には、それは人を傷つける行為だと気付かせることが有効です。Twitter英語版では、リプライしようとした時に、悪意や攻撃的な内容が含まれるものについては、その旨の警告を出すシステムが導入されました。その結果、3割の人が投稿を修正したり削除したりしたといいます。まずはそういうアーキテクチャの工夫をして、攻撃的なツイートを拡散しないようにするという取り組みも重要だと思いますね。

――「論座」にも寄稿していただいている安田菜津紀さんは先日、自身のツイートに対して浴びせられた罵声のうち、発信者を特定できた人に損害賠償を求める訴えを東京地裁に起こしました。被害を受けた側が訴えることによって、自分たちのしていることを知らしめるという効果はありますね。（参照）

山口　そうですね。書き込む人はそれで相手が傷つくとはあまり思ってない。木村花さんのケースも、書き込んだ人にNHKがインタビューしたところ、「正義感から書き込んだ」「相手のことは考えてなかった」と言っていました。訴えるなどの法的手段でそれはダメだと知らせる効果はあると思いますね。

ネットの書き込み規制、各国の事情

――ただ、すべての人が訴えることはできない。法規制も必要だと思います。現状はどうなっていますか。

山口　規制は海外のほうが日本よりも進んでいます。海外での最大の問題は、ヘイトスピーチです。難民の増加に伴い、ネット上でのヘイトが爆発的に増えました。そうしたなか、近年、規制する動きが活発になっています。

　たとえば、ドイツでは2017年にネットワーク執行法が施行されました。大手プラットフォーム事業者は、ネットの書き込みなどが違法であるという通報がユーザーからあれば、24時間以内に違法性を検証し、違法と判断すれば削除するという対応が義務づけています。不十分だと当局に判断された場合には、最大5000万ユーロの罰金が科されます。

　ただし、問題として「オーバーブロッキング」も指摘されています。プラットフォーム事業者が罰金から逃れることを重視し、過剰に削除するのではないか。それは表現の自由に抵触するのではないかと言うことです。ただ、ドイツが2020年に発表したレポートでは、「そうした兆候は今のところ見られないが、今後引き続き注視していく」とあります。

　一方、フランスでも似た法改正が検討されていましたが、憲法評議会が「違憲」との判断をして、「24時間以内の削除」「高額の罰金」などは削除されました。表現の自由を重視するフランスらしい対応です。

　米国も表現の自由を重んじていますので、ドイツに比べると規制は弱いです。ただし、通信法230条でプラットフォーム事業者に広範な免責が認められている現状には疑義が強まっており、改正する方向で議論されています。1、2年のうちにプラットフォーマーはより厳しい環境になると思います。

他国の事例を参考に動き出す日本

――日本はどうですか。

山口　他国の事例を参考に動き出しているという状況です。総務省は先頃、「プラットフォームサービスに関する研究会」で取りまとめ案を出しました。原則として、行政は引き続きプラットフォーム事業者による自主的な削除などの対応を促進することとし、プラットフォーム事業者に対して、削除義務を課すことや個別のコンテンツを削除しなかったことに対して罰則を設ける法的規制を導入することには極めて慎重な対応を要するとして、今のところ表現の自由を重んじる立場を示しています。

　そのうえで、幾つかの方向性を示しています。そのひとつに、透明性と説明責任の向上があります。市場で支配的になっているプラットフォーム事業者は、人々の言論をかなり握っているので、恣意的に何かを削除したり、残したりすることは問題がある。どういう基準で何を削除しているか、それが年間何件にのぼるのかという日本ローカルのデータを、しっかり出す必要があります。

　そのほかには、リテラシー向上のための啓発。また、発信者情報開示に関する取り組み、具体的にいえば、プロバイダ責任制限法改正もあります。裁判をもっと簡単にできるようにということも議論されています。

　さらに、相談対応の充実に向けた連携と体制整備も示されています。被害を受けた際、いきなり警察に行くのはハードルが高い。その前に相談する場を充実させるということです。ひとつは総務省管轄の違法・有害情報センター、もうひとつは民間でつくるセーファーインターネット協会の相談窓口です。個人的には、セーファーインターネット協会を中心に民間で相談体制を充実させ、国と連携して取り組むことが今後、求められると思っています。

プラットフォーム事業者は何をするべきか

――プラットフォーム事業者がするべきことは何でしょうか。

山口　アーキテクチャ上の工夫は重要です。たとえば「リシンク」の機能を広げていく。先述したTwitter英語版のアラートのようなサービスは、あらゆるSNSに実装して欲しいと思いますね。TikTokでは日本版でもアラームが入っていますが、効果はかなりあるようです。

　私が考えているのは、コメントやSNSの投稿について、「誹謗中傷度」をAIを使って出せないかということです。たとえば、五段階で判断し、投稿をまったく見たくない人には強いフィルタリングをかけて見られないようにする。全部見たい人はフィルタリングをかけない。そういう機能を導入してもいいと思っています。

――ネットサイトを運営している身としてはコメント欄は悩ましいところです。論考をもとに議論する場はぜひ設けたいし、PV増にもつながりますが、誹謗中傷やヘイトで筆者を傷つけるリスクも高い。コメント欄についてはどう考えていますか。

山口　多様な視点を得ることができる場だと考えています。実際、ニュースのコメント欄を見て、こんな考え方もあるのかと勉強になることがしばしばあります。とはいえ、すごく偏っていたり、ヘイトに近い内容だったりするものも多い。そういうものが上位に出るのはよくないと思います。下位のコメントはほとんど見られないので影響は小さいですが……。

　Yahoo!ニュースはコメント欄に「建設的コメント順位付けモデル」を導入しています。AIを使って、文章がしっかりしていて論理的、中身も建設的と判断されたコメントが、上位にくるようにしているわけです。上位に来ないと「いいね」がつかないので、順位が自然に下がっていく。ひとつの対策だと思います。

　私が最近考えているのは、コメント欄が「両論併記」になるようできないかということです。保守とリベラルとか、ワクチン派と反ワクチン派といったように、異なる立場のコメントが並んで上位になるようなアルゴリズムをつくる。多様な視点を提供するという観点からは大切だと思います。

――コメント欄で有意義な議論ができるように、環境を整えることはできませんか。

山口　一つはモデレーションですね。たとえば日経新聞デジタル版では、コメント欄はありませんが、専門家のコメントを掲載するThink!エキスパートという制度があります。議論を整理するという点で意味があると思います。Yahoo!ニュースの公式コメンテーター制度も、同様の役割を期待されて創設されています。私も両方に参画させていただいております。

　「参考になったボタン」を実装し、数多くのボタンを押されたものが上位にくるようにする。あるいは、コメントを付けた人のプロフィール画面、匿名でもいいのですが、があって、「参考になったボタン」がどれだけ付いたかが分かるようにする。こういった工夫も、よいコメントをつけようというインセンティブにつながるかもしれません。適当な誹謗中傷だと、評価されませんからね。

ネット上の被害を減らすために……

――冒頭で、「炎上」などネット上の誹謗中傷、いじめなどが増えているという指摘がありました。社会を豊かにするはずのネットのために、社会が良くない方向に向かうのはよくないと思いますが、先行きの見通しはいかがですか？

山口　なかなか難しいのですが、個人的には、悪くなり続けることはないと思っています。これまでも、新しいものが普及してイノベーションが起きた際は、必ず「負の側面」が顕在化しました。たとえば、経済発展をもたらした産業革命の黎明期、児童労働が増えましたが、今は減ってきている。公害問題も出ましたが、今ではある程度抑え込めるようになっている。「負の側面」は完全にはなくならないけど、ある程度コントロールはできるようになる。それを人類は繰り返しています。

　同じことがネットの世界でも起きるのではないでしょうか。ネットやSNSが広がって数十年ですが、フェイクニュース、ネット炎上、誹謗中傷、ネット上のいじめやヘイトなどの問題点があぶり出されてきました。それを受けて、プロバイダ責任制限法の改正、侮辱罪の厳罰化検討といった法律の整備が進み、ファクトチェックもやるようになってきました。プラットフォーム事業者も10年ほど前は、「自由な言論の場である」という立場を強く出し、あまり批判に耳を貸しませんでしたが、今はAIなどを使って被害を最小化しようとしています。「負の側面」を減らそうという動きが徐々に出てきているし、今後も発展させていくべきだと思います。

　メディアにも言いたいことがあります。帝京大の吉野ヒロ子先生の分析によると、ネット炎上の経路として最も多いのがテレビのバラエティー番組で58.8%です。ツイッターが23.2%なので、ネット炎上といいながら、実際にはテレビが拡散しているわけです。しかも、ただ拡散するだけではなく、批判を煽ることが、視聴率につながるので、炎上をさらに煽る傾向があります。メディアにはその点を十分に考えてもらいたい。

　すぐに効く特効薬なんてないと思います。すべての関係者が一歩一歩、ネット上の被害を減らすよう努めることが大切ではないでしょうか。そして、それはできると私は信じています。