メインメニューをとばして、このページの本文エリアへ

news letter
RSS

AI規制の必要性:EUの提案をめぐって

安全保障を名目にすれば、際限なく利用が認められてもよいのか

塩原俊彦 高知大学准教授

 2021年4月21日、欧州連合(EU)の欧州委員会は「人工知能(AI)に関する調和のとれた規則を定め特定の連合法を改正する、欧州議会および欧州評議会の規制案」を公表した。これは、企業や政府がAIをどのように使用できるかを規定するための規制案だ。AIのもたらす社会経済的利益と、個人や社会にもたらす新たなリスクや負の影響のバランスをとろうとするアプローチからなっている。ここでは、世界最先端のAI規制の動きについて論じてみたい。

提案の目的と背景

拡大フォン・ライエン欧州委員会議長
 この提案は、ウルズラ・フォンデアライエン欧州委員会議長が2019年7月16日に明らかにした「さらなる飛躍をめざす連合」のなかで、「就任後の最初の100日間に、私はAIの人間的・倫理的な意味合いに関する協調的なアプローチのための法案を提出する」という方針に基づいている。この発表を受けて、欧州委員会は2020年2月19日、「AIに関する白書:卓越性と信頼への欧州的アプローチ」を発表した。

 この白書では、AIの導入を促進することと、そのような技術の特定の用途に関連するリスクに対処することという二つの目的を達成する方法について、政策オプションが提示されている。今回の提案は、信頼できるAIのための法的枠組みを提案することで、信頼のエコシステムを発展させるという二つ目の目的を実現することを目的としている。

 AI規制の背後にあるAIを規制しなければならない理由を理解するためには、AIに対する基本的な知識が必要になる。そこで、「AIはあなたが考えているようなものではない」という記事を参考に基礎的な説明をしておこう。

 その記事の最初には、「AIと聞いて、我々ができることをすべて、よりよくこなすコンピューターを想像するのはやめよう」と書かれている。なぜなら、AIは人間がつくったものであり、「女性や有色人種など、人間の持つバイアスを反映したコンピューターシステムを構築していることになる」からだ。ゆえに、AIを利用しているからといっても、決して十分に信頼できるわけではない。だからこそ、AIを政府や企業が利用することに対して、厳しい規制が必要になるわけである。なお、こうした問題については、すでに拙稿「「AI倫理」を問う(上):「気高い嘘」との対峙」「「AI倫理」を問う(下):人間中心主義からの脱却」で論じているので、そちらを参考にしてほしい。

規制のあり方

 提案では、特定のAIに関する利用行為が禁止されている。高リスクのAIシステムの特定要件を定め、そのようなシステムの運用者に義務を課している。人間との対話を目的としたAIシステム、感情認識システム、生体情報の分類システム、画像・音声・映像コンテンツの生成・操作に使用されるAIシステムについては、透明性ルールが課される。さらに、市場監視・モニタリングに関するルールも定められている。

 もう一つ重要なことは、「専ら軍事目的で開発または使用されるAIシステムには適用されないものとする」と規定されている点だ。拙稿「AI利用最前線の闇 「ゴーストワーク」と「キラーロボット」」で指摘したように、AIは軍事利用されており、キラーロボットと呼ばれるロボットが人殺しを行うまでに至っている。

 最近で言えば、2020年12月、米空軍は初めてU-2スパイ機にAIを使用することに成功した。「AIが非武装の偵察機とはいえ、業務用航空機に配備されたのである」と、2021年2月17日付の「ワシントン・ポスト電子版」に掲載された「コンピュータ・アルゴリズムは倫理的に戦争を戦うことを学べるのか?」という長文の記事が伝えている。国防総省の未分類予算では、2020年に兵器開発を含むAIに9億2700万ドルの支出を求め、2021年には8億4100万ドルを求めていたという。「先進軍事技術の重要な発祥の地である国防高等研究計画局(DARPA)は、2023年に締めくくる5年間で20億ドルをAIに費やす計画だ」と、記事は報じている。中国やロシアも軍用AIに力を入れている現状を考慮すると、AIの軍事利用について世界が早急に規制を導入することを求めたいところだが、現実は厳しい。

拡大U2偵察機 Shutterstock.com

全ジャンルパックなら本の記事が読み放題。


筆者

塩原俊彦

塩原俊彦(しおばら・としひこ) 高知大学准教授

1956年生まれ。一橋大学大学院経済学研究科修士課程修了。学術博士(北海道大学)。元朝日新聞モスクワ特派員。著書に、『ロシアの軍需産業』(岩波書店)、『「軍事大国」ロシアの虚実』(同)、『パイプラインの政治経済学』(法政大学出版局)、『ウクライナ・ゲート』(社会評論社)、『ウクライナ2.0』(同)、『官僚の世界史』(同)、『探求・インターネット社会』(丸善)、『ビジネス・エシックス』(講談社)、『民意と政治の断絶はなぜ起きた』(ポプラ社)、『なぜ官僚は腐敗するのか』(潮出版社)、The Anti-Corruption Polices(Maruzen Planet)など多数。

※プロフィールは原則として、論座に最後に執筆した当時のものです

塩原俊彦の記事

もっと見る