メインメニューをとばして、このページの本文エリアへ

RSS

電王戦と独機墜落から考える人工知能の今後

必ず「やらかしてしまう」人間に最終判断を委ねられるか

北野宏明 ソニーコンピュータサイエンス研究所代表取締役社長

 電王戦第二局である。コンピュータ将棋プログラムSeleneが、相手の永瀬拓矢6段による88手目「角成らず、王手」とした局面を認識できず、王手放置で反則負けしてしまったのである。これは、最近では、NHK杯準決勝で橋本崇載8段が2歩(成っていない歩を2枚、同じ縦の列に配置すること)で反則負けしたことに匹敵する珍事である。ジャーマンウィングス機墜落は、これとは質の異なる衝撃的な事件だが、機械と人間のありようを考えうえで両者はともに大きな「気づき」を我々に与えている。

 電王戦でのSeleneの反則は、その開発者が、飛車・角・歩の不成りは、ありえないとして、その状況自体をプログラムにいれなかったために、これを認識できず、プログラムは、不成りの角による王手を無視したことによる。

 なぜこういうことをしたかというと、飛車・角・歩が成らない場合の状況を検討しないので、計算量が削減され、通常の場合にはより先を読めるからである。つまり、これは、基本的なルールに加え、開発者が、恣意的に余計なルールを加えたようなものである。対戦相手が、このことに気がつかないことに賭けたとも言える。しかし、起こり得ることはすべて起こると考えると、これは完全に開発した人間のミスである。

 永瀬6段は、この将棋プログラムを使って対戦準備をしていた時に、間違ってクリックして、このミスを発見したらしい。NHK杯準決勝で、2歩が起きる世の中である。いろいろなミスが起きる。2歩も、Selenenのバグも、その発見も、すべて人間のミスである。なんともやらかしてしまった感のある話である。

 しかし、将棋でやらかしているうちはまだいい。アルプスの山中に墜落したジャーマンウィングス機の事故は、副操縦士が意図的に墜落させたという、衝撃的な展開になってしまった(あの地域の上空は、何度も通過している。この事件は、どう表現していいかわからない。「言葉を失う」とはこのことなのだろうと思う)。

拡大

 おそらく

・・・ログインして読む
(残り:約2016文字/本文:約2848文字)


筆者

北野宏明

北野宏明(きたの・ひろあき) ソニーコンピュータサイエンス研究所代表取締役社長

ソニーコンピュータサイエンス研究所代表取締役社長兼所長。1984年国際基督教大学教養学部理学科卒業後、日本電気に入社。88年米カーネギー・メロン大学客員研究員。91年、京都大学で博士号(工学)を取得。1993年ソニーコンピュータサイエンス研究所入社、犬型ロボットAIBOなどの開発にかかわった。2008年に現職。NPO法人システム・バイオロジー研究機構会長を兼務。Computers and Thought Award (1993)、ネイチャーメンター賞中堅キャリア賞(2009)などを受賞している。

※プロフィールは原則として、論座に最後に執筆した当時のものです

北野宏明の記事

もっと見る