殺人ロボット兵器の禁止を急げ

　自動運転車が暴走したらどうなるのだろう、ということは今や身近な心配事だ。しかし、もっと深刻な心配事があった。人工知能（AI）を搭載した殺人ロボットが開発されたらどうなるか。一人一人を判別して敵だけ探し出して殺すことも可能な兵器がひとたび開発されたら、人類にとんでもない厄災をもたらすと、AIやロボットの研究者・技術者が警鐘を鳴らしている。2015年に最初の公開書簡を発表したのに続き、２つ目の公開書簡がオーストラリアで開かれたAIの国際会議IJCAI（International Joint Conference on Artificial Intelligence）で８月21日に発表された。

　最初の公開書簡は、「自律型兵器」への懸念を示したものだ。自律型とは、人間の指示を受けずにロボット自ら判断して動くということ。こうした「殺人ロボット」は、AI技術の発達で10年も待たずに可能になると指摘したうえ、一刻も早く国際的な規制が必要だと訴えた。なぜなら、自律型兵器は、火薬、原爆に続く兵器における第三の革命といわれており、いったん開発されたら闇市場に出回ってテロリストらが使い出すのは火を見るよりも明らかだからだ。「自律型兵器は明日のカラシニコフになる」と、安価で貧しい国々にも出回ったカラシニコフ銃を引き合いに出して、その非倫理性を説いた。

　2015年の国際会議IJCAIの開会日に発表されたこの書簡には、AIとロボットの研究者ばかりでなく、物理学者のスティーブン・ホーキング氏や言語学者のノーム・チョムスキー氏らも署名した。AI研究者としてとりまとめの中心となったオーストラリア・ニューサウスウェールズ大学のトビー・ウオルシュ教授は「この書簡が、国連が公式の議論を始める後押しをした」と振り返る。

　国連では昨年12月、特定通常兵器使用禁止制限条約（CCW）の再検討会議に参加した123カ国の代表が「自律型致死兵器システム（LAWS）」の専門家会議の設置に同意した。うち19の代表が即時禁止を求めているという。CCWは、非人道的な兵器を規制するため1980年に採択されて83年に発効した条約で、失明をもたらすレーザー兵器の使用禁止、ナパーム弾など焼夷兵器の使用規制などを定めている。この枠組みの中で「機械にどこまで任せていいのか」を議論することになる。専門家会議の第１回会合は８月に開かれる予定だったが、資金不足のために延期され、11月になった。

　二つ目の公開書簡は国連CCW条約宛てとなっていて、産業界で実際にAIやロボットを開発している人たちが署名しているのが特徴だ。テスラ創設者のイーロン・マスク氏、グーグルディープマインドのムスタファ・スレイマン氏、家庭用ロボットPepperをソフトバンクモバイルと共同開発したフランスのアルデバランロボティクス社のジェローム・モンソー氏ら26カ国の企業の116人が名前を連ねた。日本からは、ヘビ型ロボットを開発するベンチャーのハイボットを代表して東京工業大学名誉教授でもある広瀬茂男社長以下４人が署名した。