メインメニューをとばして、このページの本文エリアへ

news letter
RSS

AIを使った犯罪捜査で人種差別はなくせるのか?

蓄積されるデータ、精度が上がる監視機器と捜査のバイアスはどう関係するか

酒井吉廣 中部大学経営情報学部教授

パタナイザーの二つの問題点

 パタナイザーの開発はNY市警が独自に始め、当初は中堅・中小またはスタートアップのシステム開発企業が中心となって支援していた。

拡大pixinoo/shutterstock.com
 現在は、精度のさらなる向上を目ざし、マイクロソフトやIBM、最近ではアマゾンなどの大手IT企業やその子会社との共同作業も進み始めたほか、金融機関のリスク管理システムを開発している会社との協力も始まっている。自動運転や人工知能、人間に近いロボットの開発などと重複する開発内容が少なくないからだ。

 そんななか、二つの点で将来の問題となるような話が出てきている。

 一つ目は、NY市警が使っている高性能カメラの提供企業についてだ。実はこのカメラは中国企業から提供されている。昨年来の米中貿易摩擦や通信技術覇権(安全保障)等の紛争激化を受け、中国製のままで良いのかという疑問が投げかけられた。

 しかし、これ自体が異文化や人種の壁にぶつかっているとの見方もあり、デブラシオ・NY市長は問題とはしていない。また、彼は6月26日の第一回民主党大統領候補予備選<一日目>に参加した際にも(彼は大統領候補でもある)、米国のリスクは(中国ではなく)ロシアだと主張し、今のところ変更の兆しはない。

 二つ目の問題は、グーグルが子会社のWazeで開発しているナビゲーション・アプリについてである。このアプリは道路情報をリアルタイムで把握し、運転者が目的地に最短で行けるようにするものだが、情報把握機能の中に、警官が飲酒運転等の張り込みをやっている場所も含まれるのだ。地域の安全という目的達成の妨げや、飲酒運転という違法行為者を逃がすことにもなるほか、AIへの活用に向けたビッグ・データの作成という観点でも問題である。

 NY市警は、飲酒運転見張り場所についての情報提供を停止するよう通告書を発出した。グーグル側は顧客の安全を最優先していると回答するにとどめ、それ以上の進展がないままになっている。

 これは、基本的には「警察による住民の安全のための行為」と「個人の生活の利便性向上のためのサービス」の対立であり、結論を出すのが難しい。ただ、このような事態は、AIを使った事前捜査の普及およびその完成度を高めるという意味で問題なしとしないのも事実である。

バイアス発生のメカニズム

 話は2001年とやや古くなるが、9・11(セプテンバー・イレブン)テロの直後、11月上旬の夜8時頃に、ニューヨーク市ブルックリン地区の地下鉄駅で、パキスタン系アメリカ人が職務質問された。

 彼は、NY市内にある私立大学の英語教師で、南アジア人特有の発音の癖を感じさせない米国英語を話していた。NYでは9・11後、人種や宗教差別的なさまざまなトラブルが起こっていたので、彼は近寄ってくる警官に不安を覚え、速足で帰宅を急いだ。ところが、それが警官に「逃亡」と勘違いされ、職務質問を受けただけでなく、近くの警察署まで連行され、一晩、拘置所で過ごし、翌日に家族が迎えに来て、ようやく無罪放免となった。

 被職務質問歴はコンピューターへの入力項目である。米国の場合、社会保障番号でほとんどの情報が繋がるようになっているが、職務質問内容の住所や勤務先等の詳細なプロファイルは未来永劫に記録として残る。

 なお、データとしては、すべてのNY市民を対象としないとビッグ・データとしてAIの利用に堪えないので、NY市警には全NY市在住者のデータが入力されていると考えた方が良い。

拡大Who is Danny/shutterstock.com
 話を戻すと、仮になにがしかの犯罪が彼の居住地の近くで起これば、彼のデータもコンピューター内で参照される。彼の場合は2001年の職務質問で無罪とされたが、もし有罪になっていると彼のプロファイルに「旗」が立てられ、(今後)参照される際には無罪の人のプロファイルとは区別される。当該者は別の犯罪事件が発生した場合に、再び職務質問を受ける可能性が高まる。そして、職務質問を受けるごとに、プロファイル上は犯罪を起こす可能性のある人として扱われる度合いが高まっていく。

 これが市民団体の懸念する、バイアス発生のメカニズムである。

 実際、彼はその後も2回(2014年と2017年)職務質問を受けていた。18年間に3回というのは、ワスプやユダヤ系白人の中間層以上ではほとんどゼロであることを考えれば、決して少なくはない。

 ちなみに、NY市ではAIを使った予測捜査に対し、一週間に600件以上のクレームをつけられている。現段階ではAIを使った予測捜査への完全移行は難しい状況だ。

全ジャンルパックなら本の記事が読み放題。


筆者

酒井吉廣

酒井吉廣(さかい・よしひろ) 中部大学経営情報学部教授

1985年日本銀行入行。金融市場調節、大手行の海外拠点考査を担当の後、信用機構室調査役。2000年より米国野村証券シニア・エグゼクティブ・アドバイザー、日本政策投資銀行シニアエコノミスト。この間、2000年より米国AEI研究員、2002年よりCSIS非常勤研究員、2012年より青山学院大学院経済研究科講師、中国清華大学高級研究員。日米中の企業の顧問等も務める。ニューヨーク大学MBA、ボストン大学犯罪学修士。

※プロフィールは原則として、論座に最後に執筆した当時のものです

酒井吉廣の記事

もっと見る