［書評］『ロボットからの倫理学入門』

ロボット問題は道徳問題だった　　

　もう、そこまで来ているのかというニュースがあった。欧州議会の法務委員会は人工知能を持つロボットに「電子人」として法的地位を与える決議案を提出し、欧州議会は今年2月に可決した。各国の国内法への拘束力はないが、初めてロボットが「新人類」として認定された歴史的事件ではなかろうか。

　もちろん、ロボットが事故で人を傷つけたときなどにオーナーに損害賠償を負わせるため、「法人」のようにロボットを「電子人」とした実務的意味もある。しかし、決議では、人間の指示がなくても「自律的」に行動するロボットを対象にしていることが重要だ。最近の目覚ましい人工知能の進歩で、ロボットの能力が人間に近づき、さらには超えていくという世界について議論が始まっていることは知っておくべきだろう。

　人間にあってロボットにないものは何だろう。「心」や「道徳」もその中に含まれる。人間の活動を代替させるのであれば、「心」や「道徳」(のようなもの)を人工知能にプログラムしなければならない。

　しかし、人間だって「心」や「道徳」がどういうものなのか、はっきりした答えを持っているわけではない。人間の役に立つロボットをつくるために、心理学や哲学、倫理学など人文学の知見をあらためて検討しなければならなくなっているそうだ。

『ロボットからの倫理学入門』（久木田水生 神崎宣次 佐々木拓 著　名古屋大学出版会）

『ロボットからの倫理学入門』（久木田水生 神崎宣次 佐々木拓 著　名古屋大学出版会）　定価:本体2200円＋税

　ロボットが人間に危害を与えないようにするため、SF作家アシモフが『わたしはロボット』(創元SF文庫)で示した「3原則」が知られている。

　要約するが、(1)人間に危害を与えてはならない。危害を与えられている人間を黙視してはならない。(2)人間の命令に従わなくてはならない。ただし(1)に反する命令はその限りではない。(3)ロボットは自分を守らなくてはならない。ただし(1)と(2)に違反しない場合に限る。ちなみに、この3原則は欧州議会の決議にも盛り込まれている。

　一見、シンプルなルールでロボットは人間に奉仕するように思えるかもしれない。ところが、3原則は完全ではないという。最近の英国での実験で、「危険区域からロボットを助けるロボット」「危険区域を知らないロボット2体」をフィールドで動かした。助けるロボットは1体が危険になるときちんと助けられた。しかし2体が同時に危険になると、身動きが取れなくなってしまった。1体だけ助けると「危険を黙視してはならない」という第一原則に反するのだ。

　人間としても道徳的に困難な問題だ。2人が死ぬよりも、1人を助ければ道徳的に称賛されるのか、それとも1人を選んだ理由に偏見があり、倫理に背くことになるのか。ケースバイケースだし、人間にも一般的答えは出せない。

　本書が面白いのは、こうした問題を倫理学における論争に絡ませながら、道徳とは何か、あるいは道徳がいかに複雑なのかを教えてくれることだ。「最大多数の最大幸福」の立場をとる功利主義からすれば、一人でも多く助かった方がよい。しかし、ジョン・ロールズが『正義論』(紀伊国屋書店)で「多数のために少数に犠牲を強いるのは正義の許容するところではない」と功利主義を徹底的に批判したことも紹介する。

　自動運転車が実用化されたときに、事故回避時に人工知能が「1人は死ぬが、ほかは助かる可能性が高い」とするのか、「何人か死ぬかもしれないが、全員が助かる可能性もわずかにある」とするのか。極めて倫理的な問題に突き当たるのだ。

　「うそはついてはいけない」とプログラムしたとする。こういう場合はどうだろう。殺し屋が主人を部屋まで追ってきて、「中にいるか？」と玄関越しにたずねる。正直に「いる」と答えれば主人は殺される。「いない」とうそをつけばルールに反する。これは「道徳的義務論」の問題だといい、義務論だけではロボットは人間を守れないということを示している。

　本書の後半は具体的に、ロボットがどんどん社会や生活に浸透していったときに、どのような倫理的問題が予想されるのかが検討されている。

　ソーシャルロボット「ペッパー」のような、おしゃべり相手になるロボットは有益なものなのか。愛想のいいロボットに慣れすぎて、人々はリアルな人間関係の能力を低下させてしまうのではないか。人形と同じなのだから楽しめばいいのではないか。実は開発をした孫正義さんと会話をしているのではないか。心がないのにニコニコしながら親を世話するロボットを見たら、心が痛むのではないか……。ソーシャルロボットひとつだけでも議論することは山のようにある。

　深刻なのは、人工知能を搭載したドローン兵器や、状況に応じて自分で殺傷を判断する自律型ロボット兵士の問題だ。自国の人間の兵士が犠牲になる数は減るが、戦争をロボットに任せていいのかという難問が現れてくる。

　攻撃してくる敵と投降してきた敵をどんなアルゴリズムで判断するのか。人工知能兵器の拡散がはじまれば、自律型ロボットは「現代のカラシニコフ銃」になって世界中で殺戮が行われるのではないか。心配事は増えるばかりだ。

　そして、私たち労働者にとって切実なのは、なんでもロボットがやるようになったら仕事を奪われてしまうのではないかという問題だ。シンクタンクの推計では、日本では約600の職種が人工知能に代替できるそうだ。しかも肉体労働ではなく医師や弁護士など高度な専門職ほど置き換えやすいという。新聞も、市況やスポーツの記事を人工知能に実験的に書かせている会社がある。

　芸術家や哲学者など抽象的な概念を創出する仕事や、営業職など他者との協調や交渉力、サービス力が求められる仕事は代替が難しいそうだ。しかし、ロボット上司にこき使われる人間営業マンからしたら、営業職も安心とはならないかもしれない。

　テクノロジーの進歩は不可逆なので、いずれはロボットや人工知能の技術が当たり前に生活のなかにある時代はすぐそこまで来ているのだろう。技術への理解もさることながら、ロボットと共生するための道徳や倫理についての議論がいかに重要かということを本書に教えられた。一読をおすすめする。

＊ここで紹介した本は、三省堂書店神保町本店４階で展示・販売しています。

＊「神保町の匠」のバックナンバーはこちらで。