AIの合成音声でニセ通報、特殊部隊を出動させるという嫌がらせが商売に

　性能の急速な向上により、さまざまな分野で導入が進んでいるAI（人工知能）。それは法執行機関の分野も例外ではない。

　たとえば顔認識技術の開発で知られる米クリアビューAI（Clearview AI）社は、最近BBCの取材に対し、同社が米国内の警察組織のためにこれまで100万回を超える検索を行ったことを明らかにしている（こちら）。クリアビューAIはネット上に公開されている画像を収集して、300億枚を超える顔写真から成る独自の顔写真データベースを構築。それを基に、与えられた画像に写る人物を特定するサービスを行っている。つまり警察は、監視カメラに映る怪しい人物の身元を、同社の検索サービスを使うことで簡単に特定できるわけだ。

顔認識技術の開発で知られる米クリアビューAI＝Ascannio/Shutterstock.com

　実はこの300億枚の顔写真データベースを構築するにあたっては、元の画像をネット上に公開した所有者からの同意が得られていないとして、各国で罰金や罰則を適用されている。それでも同社はこの顔認識AIを活用したビジネスを諦めておらず、批判や制裁を歯牙にもかけない姿勢を見せているのだが、米国の警察だけでもこれほど同社のサービスを活用しているとあれば、それも納得と言えるだろう。

　また昨年4月にも紹介しているように、同社の技術はウクライナの戦場にまで導入される（ウクライナ軍が死傷したロシア人兵士の身元を特定し、それをロシア国内の家族に伝えることでえん戦気分を煽るという作戦が展開されている）など、法執行機関や国家権力によるAI活用は拡大の一途をたどっている。

　しかし警察は、AIから恩恵だけを受けているわけではない。予想もしない形で、AIが引き起こす混乱にも巻き込まれている。そのひとつが「スワッティング」をめぐる問題だ。

米国の警察を悩ます「スワッティング」

　スワッティングは英語で「Swatting」と表記されるのだが、この「SWAT（スワット）」とは、米国の機動隊や特殊部隊を示す言葉「Special Weapons And Tactics（特殊武装・戦術部隊）」を略したものである。日本でもドラマなどを通じて耳にしたことがある、という方も多いだろう。米国の市民は警察に通報し、一般の警察官では対処できないような凶悪事件が発生しているとして、SWATの出動を促すことができる。ただ本当にSWATが必要な事態が起きているのであれば、そうした通報を行うのは当たり前だ。

米国の特殊武装・戦術部隊「SWAT」

　ところが近年、特定の人物に嫌がらせをするために、その相手がいる場所にSWATやそれに準じる重武装の警察官が向かうよう、嘘の通報をするというケースが発生している。それがスワッティングだ。

　スワッティングは2008年からFBIで使用されていた言葉とのことだが、その正式な統計は発表されていない。しかし元FBI捜査官の言葉として、2011年には400件だった嘘の通報が、2019年には1000件を超えるなど増加傾向にあるとの報道がなされている（こちら）。

　そもそも嫌がらせ自体が悪いことだが、嫌がらせをするにしても、なぜSWATを攻撃相手に差し向けるようなことをするのか。それはSWATがギャングなど凶悪な犯罪集団や、人質事件のような凶悪犯罪に対抗するための組織であり、その対応が極めて暴力的なものになり得るためだ。

　有名なスワッティングのひとつに、2017年に起きたタイラー・バリス事件がある。この年の12月、米カンザス州ウィチタで、アンドリュー・フィンチという青年がが彼の自宅に駆け付けた警察官に射殺された。これはタイラー・バリスという男から、フィンチの自宅で立てこもり事件が起きているとの通報があったことによるもので、もちろんこの通報がスワッティングだったわけである。

　しかもこの事件のきっかけとなったのは、オンラインゲーム上でのプレイヤー同士のトラブルだった。その中で一方の当事者が、「オンラインじゃなくて自宅まで来れるもんなら来てみろ」と挑発して、明らかにしたのがフィンチの住所だった。しかしこの人物は既に教えた住所から引っ越しており、その後に住んでいたのが亡くなったフィンチだった。つまり彼は、まったく関係のないトラブルと悪質なスワッティングによって命を落としたのである。

　このようにスワッティングは、どこか遠くにいる相手に対し、自分の手を動かさずに重大なダメージを与えられる可能性がある。そのため嫌がらせの手段として注目されてしまっている、というわけだ。

スワッティングを請け負う闇サービス

　ただ当然のことながら、警察も通報されればすぐにSWATを向かわせるわけではない。スワッティングに対応するために、通報を受ける電話オペレーターの教育を行ったり、嫌がらせの対象になりそうな住所を事前に登録するシステムを用意し、オペレーターに警告が表示されるようにしたりといった対応を行っている（こちら）。それでもスワッティングが増加しているのは、偽の電話番号で通報したり、発信場所を偽装したりする技術を、嫌がらせをする側が利用可能になっているためだ（出典）。

　そして、そうしたスワッティングを容易化する技術に加わったのが、他ならぬAIである。

　ウェブニュースサイトのViceが今年4月13日に、ソーシャルメディアの「テレグラム（Telegram）」上に開設されていた「Torswats」というアカウントについて報じている。この記事によると、Torswatsはテレグラムを通じて顧客を集め、彼らに代わってスワッティングを行うサービスを提供していたそうだ。

　筆者が確認したところ、報道で注目を集めた影響か、執筆時点（4月18日夜）では既に、報じられていたものと同じアカウントの存在は確認できなかった。しかし「バックアップ」と称するアカウントがいくつか存在しており、どれもが同じ内容の料金体系を提示している。

「バックアップ」と称するアカウントが提示する料金体系。「75ドル　学校などの公共エリア向けの爆弾関連のいたずら」などと表示されている 。最後には「暗号通貨で今すぐ注文」とも
出典

　それによると、もはや「スワッティング」という言葉は使われていないものの、「学校のような公共施設に対する爆破予告のデマ」が75ドル、「個人宅に対する過激なデマ」が50ドルとなっており、いずれも報道された内容と一致している。暗号通貨での支払いを要求している点、ディスカウントにも応じるとしている点も同じであり、この内容で顧客を募集していたようだ。いずれにしても、たった1万円ほどでスワッティングができてしまうわけである。

　実際に2023年2月、米アイオワ州のDubuque Hempstead High Schoolという高校で、このTorswatsへの依頼を受けて行われたと見られるスワッティングが発生し、同校は危険物の捜索のためロックダウンされるまでに至っている（こちら）。学校なので75ドル、あるいは「リピーター」だったら60ドルでこの犯罪が行われていたはずだ。

　しかし大勢の顧客から大量の依頼を得ていたとしたら、何度も警察に電話しているうちに不審がられてしまうのではないか？ そこで登場するのがAI技術だ。

AIで音声を合成し、警察に通話

　Viceの記事によれば、Torswatsは顧客から依頼を受けて実行したスワッティングの結果を、同じアカウント上で「成果」として誇らしげに公開していた。そうした情報の中に、AI技術によって合成された音声で行われた、警察への通話の記録が含まれていたのである。

　Viceがそうした通話記録の一部を保存しており、音声ファイル共有サービスのサウンドクラウド上にいくつか再掲載しているのだが、それを聴くと数種類の男性の音声で通報が行われていることがわかる。Torswatsを運営していた人物は、こうしてAIに数種類の音声を合成させることで、摘発を逃れていたと思われる。

　音声合成も、近年AIの力で飛躍的に性能の向上、ならびにコストの低下が進んでいる領域のひとつだ。たとえばマイクロフトは、たった3秒の音声サンプルさえあれば、そのデータを基にどんな音声でも合成できるという技術「VALL-E」を今年1月に発表している。

　またある程度の品質で構わない、特定の人物の声に似ていなくても良いというのであれば、無料からごくわずかな額で音声合成してくれるウェブサービスやソフトウェアが、いくつも利用可能な状態となっている。Torswatsはこうした技術を悪用して、誰もが「気軽に」スワッティングを依頼できるサービスを立ち上げたというわけだ。

　音声合成AIについては他にも、いわゆる「振り込め詐欺」の成功率を上げるために使われているのではないかという懸念がある。今年3月、ワシントンポスト紙が米国での振り込め詐欺の増加を報じる記事を掲載しており、実際に子供や孫の声に似せた音声が使われた詐欺事件があったことを伝えている。

AIよりも私たちが懸念すべきもの

　もちろんすべての振り込め詐欺に音声合成AIが使われるようになっているわけではないが、スワッティングと同様、こうした犯罪に手を染めようとする際の物理的・心理的なハードルを下げていることは間違いないだろう。

　映画『ターミネーター』のように、AIが自らの意思で人類に害をなすようになる、という心配をする必要は当面なさそうだ。しかしここで紹介したように、人間が自らの犯罪を容易化するためにAIの力を借りる、という現象はさまざまな形で見られるようになっている。技術の進化するスピード以上に私たちが懸念すべきなのは、それを思いもよらぬ形で悪用しようとする、人々の発想力なのかもしれない。