自動運転車の死亡事故で迫られる決断

　今年5月7日に米国フロリダ州で起きた自動走行モードをもつ米テスラの自動車死亡事故は、自動運転技術や、その核となる人工知能(AI)がもたらすリスクについて、多くの人の関心を集める契機となっている。

自動で車線変更ができる自動走行の機能について発表するテスラのイーロン・マスク氏＝2014年10月10日、米国カリフォルニア州、宮地ゆう撮影

　事故についてはまだ調査中であり、原因については不明な点が多い。自動運転技術そのものもまだ開発途上にあることから、今回の事故をもって自動運転やAIの有効性に疑問符をつけることは早計に過ぎる見方だ。しかし、少なくともこの事故から、私たちは改めて大きな決断を迫られつつあることを自覚したのではないだろうか。それは、機械であるAIを全面的に信頼し、その判断を受け入れられるかどうかという問題だ。

　これは別に新しい問題ではなく、産業革命以降、無数の機械に支えられている現代文明は、ずっと以前から機械を信用しているのではないかと捉える向きもある。しかし、人と機械の関係に注目すれば、今私たちの目前には、まるで違う世界が広がりつつあることに気づくはずだ。

　例えばこれまでの機械は、その構造や動作は十分理解可能なものであり、自動車の場合はハンドルやペダルで操作し、飛行機であれば操縦桿で制御するように、人間の指示や命令を忠実に実行する、いわば使用する人の手足や頭脳の延長のような存在だった。

　しかし、これから進化・普及するAIは違う。自動運転車に代表されるように、人は達成すべき使命(ミッション)を与えるのみで、その達成方法を細かく指示する必要はない。AIが自律的に考え判断することが当たり前となり、その判断に人は介在しない。その判断を行う論理構造の詳細は、現時点での技術進化の方向性を見る限り、ディープラーニング(深層学習)から自律的に最適解法を学習することで、人間の囲碁チャンピオンに勝利したAlphaGo(『囲碁ソフトがついにプロ棋士に勝った』ＷＥＢＲＯＮＺＡ２０１６年２月２日)の例のように、設計者すら判らないブラックボックスになる可能性が高い(「Mastering the game of Go with deep neural networks and tree search」Nature 529)。

　つまり、これからの機械=AIは、半ば自由意志をもつ生命体のような振る舞いをするようになるだろう。これは、従来予測可能であった機械の挙動が、予測不可能なものへと変化することを意味する。私たちに問われているのは、こうした