メインメニューをとばして、このページの本文エリアへ

[3]効率最優先のトランプ氏の行動はAI的だ

人工知能のように、人間の倫理や常識を無視し、集票の最大化のために動く

松本一弥 朝日新聞夕刊企画編集長、Journalist

憲法学者・木村草太VS作家・新城カズマ(司会は松本一弥・朝日新聞WEBRONZA編集長)

新城カズマさん(左)と木村草太さん新城カズマさん(左)と木村草太さん

この対談は、2月19日に東京・下北沢の本屋B&Bで行われた「世界がざわついている今、時空をワープしながら<トランプ・秀吉・憲法・AI>を語ろう」(presented by 朝日新聞WEBRONZA)を加筆修正したものです。今回が最終回です。
木村草太VS新城カズマ 1本目「トランプ大統領は豊臣秀吉に似ている」https://webronza.asahi.com/politics/articles/2017022300010.html
木村草太VS新城カズマ 2本目「平気でウソをいう人たちにどう対抗するか」

https://webronza.asahi.com/politics/articles/2017022300011.html

人工知能は将棋の名人に勝てるレベルにまで進化している

新城カズマさん新城カズマさん

松本 最後のお題は「憲法とAI」、つまり憲法と人工知能ということです。

新城 私、SF作家もやってますので、AI、人工知能に職を奪われるみたいなニュースはけっこう興味を持ってまして、ただ個人的には人工知能を使って小説が書けないかな?っていうところがいちばん興味があって(笑)、あと木村さんが将棋にお詳しいので、将棋の世界ではAIの可能性はどうなんだろうとかいうことをぜひおうかがいしたいと思いまして。まず、そもそも人工知能関係で将棋ってどこまで来てるんです?

木村 単純に言えば、名人に勝てるぐらいのところまで来てるっていうことだと思いますけどね。トップ棋士に勝ってもだれも驚かない段階まで来てますね。

新城 それはつまりマシンの性能が上がったっていうことですか?

木村 もちろん、それもあります。

新城 マシンに入れているプログラムが良くなったということですか?

木村 ハード、ソフト両面で驚くべき発展がありました。そもそも将棋の手を選ぶのは、三つぐらいの段階からなっているんです。まず、対戦の局面が与えられるわけじゃないですか。その局面に対して、こういう手が候補になりそうだと「候補手を絞る」のが第一段階です。

 次に、その候補手を指したら、その後どんな展開になるかと「手を読む」のが第二段階です。そうやって、5手先、10手先と深く局面を読んでいって、その読み進めた局面がどっちに有利なのかと「局面を評価する」のが第3段階になります。

 このうちコンピューターは、少なくとも「手を読む」っていうことについては、人間よりもものすごく優れた性能を持っているわけです。「手を読む」ことそれ自体は、単純にありうる手を並べていくだけですから、時間とメモリーさえあれば、それほど難しいことではありません。

「局面を評価する」のと「候補手を絞る」のが難しかった

 将棋の場合、それぞれ駒は20ずつしかないので、動かしうるパターンは一局面あたり80手ぐらいと言われています。一手進むごとに、パターンは「かける80」ずつ増えていく。でも、全パターンの組み合わせができたところで、そのうちどれが有利なのかわからなければ、次の一手を選ぶことはできません。

 つまり、コンピューターにとっては、「局面を評価する」ことがすごく難しかったんですね。その評価をする基準、評価値っていうものが、ディープラーニングと強化学習などによって飛躍的に能力が上がってきたということです。

 それから、「候補手を絞る」っていうところもすごく難しかったんです。プロ棋士に聞いても、「一目見てこんな感じで」とか「プロならこうするのでは」とか言われるだけで、何とも説明がつかないことの方が多いです。けども、そこもディープラーニングと強化学習によって、候補手選択のセンスが良くなってきた。それで、いまみたいな時代に至ってるということですね。

画像認識技術によって囲碁ソフトは急速に強くなった

木村草太さん木村草太さん

木村 この前、現在、最強の将棋ソフト・ポナンザの開発者である山本一成さんとテレビ番組でご一緒する機会があって、そのあとお話をしたんです。囲碁って、プロ棋士に勝つには10年はかかると言われていたのに、急速に強くなったじゃないですか。

新城 はいはい。

木村 囲碁は、縦×横で19×19もあって、9×9の将棋に比べても、異様に手の幅が広いんです。だから、チェスや将棋でプロに勝つようになっても、囲碁が追いつかれるのはまだまだ先じゃないかって言われていました。囲碁が一番難しかったのが、「候補手を絞る」ところだったらしいんですね。それを画像認識っていうのがあるじゃないですか。

新城 はい。

木村 その画像認識の技術を使って学習したところ、「候補手を絞る」能力が飛躍的に向上したっていうんですよね。画像認識って、人工知能にはけっこう難しくって。「記号着地問題」っていうのが昔ありましたよね。

新城 はいはい。

画像認識はもはや人間の認識能力を超えた!?

木村 記号着地問題とはどんなものかというと、人間であれば、初めて見た猫でも、それが猫かどうかわかる。猫の概念を理解している人なら、猫の画像を見れば、それが猫だと判断できるわけです。

 ところがコンピューターにとっては、難しい。コンピューターにある猫の写真を見せて、「この写真は猫の写真だよ」って教えたとして、同じ写真を見せれば、「これは猫の写真です」って答える。これはコンピューターにとってみれば、ただのデータ処理なんで簡単なんです。でも、違う猫の写真を見せたときに、その写真が猫の写真なのか判断することは、人工知能にとってはすごく難しかったらしいんですね。

 3歳の子供が自然にできることが、AIにはとても難しかった。でも、2012年にグーグルが猫認識に成功して以来、AIの画像認識は急速に進化して、もはや人間の認識能力を超えたんじゃないかって言われているっていうところまで来ています。

 そのなかで、囲碁の局面は、黒と白しかないから画像認識しやすいものらしくて、「候補手を絞る」作業を画像認識として大量に学習した結果、飛躍的な能力の発展があって、急にすごく強くなっちゃったんだって、そういう話を聞きましたね。

新城 将棋のほうは画像認識とは関係ないんですか?

木村 将棋の画像認識はけっこう難しいらしいんですよ。将棋は、一つ一つの駒に個性があって、画像認識だけでは「候補手を絞る」っていうところがなかなかうまくいかないらしいんですよね。

新城 将棋の駒を色分けしてやるとか、コンピューターに優しい将棋の駒をつくったりして(笑)。

木村 (笑)。そういうことも何かいろいろやってみてるらしいんですけど、山本さんはうまくいかないって言ってましたね。だから将棋は、囲碁とは違う仕組みで学習をして、候補手を絞ってるらしいんですけども、囲碁については画像認識がすごく有効だったっていう話を聞きました。

AIの進化を将棋の愛好家はどう見ているか

新城カズマさん新城カズマさん

新城 なるほど。そうするともう将棋は、あるいは囲碁も含めてですけど、人間の一番すごいところと互角なところまで来てるとすると、それって将棋の愛好家の皆様から見てどうなんですか? これっていいことなんですか?

木村 人によってはショックを受けているかもしれませんが、私自身は何もこれまでと変わらないですね。というのは、将棋や囲碁というのは、「二人零和有限確定完全情報ゲーム」の一種で、3かける3のマルバツゲームと一緒で、先手、または後手が絶対に負けない方法があるゲームだと言われています。

 すごろくとかはサイコロを振って、ランダムがあるので、正解があるわけじゃないんですけども、将棋やチェスは、手の数が有限なので、人間が到達できないだけで、正解があるゲームなんですよね。

 人間同士は何を競ってたかっていうと、結局、負けるほうは絶対ミスをしてる。つまり、人間が完全でないことを前提として、どこまで完全に近づけるかを競っていくわけです。自分で指すときには、なるべくミスをなくしたいと頑張るし、プロの将棋を見るときは、その人間離れした指し手に感動するわけです。だから、コンピューターに負けるかどうかっていうこととは全然違うところで、人間が研鑽を積んで、その研鑽がぶつかり合ってるっていうのを楽しんでいるので。

新城 ああ、なるほど、なるほど。

木村 コンピューターが勝った負けたっていうのは、人間の将棋をずっと見てきたファンには、あまり影響与えてない気がしますね。

いかに棋士が転げ落ちるかを楽しみに見ているのが将棋ファン

新城 しかしそれは逆に言うと、あるいはもうちょっと表現を俗にしてしまうと、「目の前の人間がどのように失敗してどちらへ転げ落ちるのかを待ってる」のが将棋ファンだということに。

木村 あっ、そうそう。だからまさに普通にやると転げ落ちるはずのところを……。

新城 そうですよね。そこをうまくやって……。

木村 うまーくやってるっていう。

新城 「でも次はどうだ、いつかどっちかに転げ落ちるはずだ。わくわく」みたいな感じで見てる。

木村 そういうところなんですよね。だから勝った側が、「こんな細い綱を渡りきった」みたいな感覚になる。

新城 ああ、なるほどね。じゃあもし毎回、人工知能が勝ってばっかりいても、負ける側が人間だった場合、見てる側としてはわりと楽しさは残るわけですか?

木村 いや、あの、AIと人間の対局が始まったのは、もともとはAIが弱かった時代に、AIの性能を見るために人間とやってたんです。でも、最近は、プロ棋士の方の中にも、ソフトを使って研究している人もいたりして、人間のどういうところが苦手なのかをはかるためにやってるっていうところがあります

相手がうまくやったのではなく、自分がミスをしたから負けた

木村草太さん木村草太さん

新城 すごいですよね。何かだんだん登山と似てきてる感じがあって。

木村 そうそう、そういう感じです。もともと登山だったんですよ。将棋指し、プロ棋士の方って、負けたあとに、「あいつに負けて悔しい」とかって言わないんですよね。「羽生さんに負けて悔しい」とかっていうんじゃなくて、「自分がふがいない」とかっていうふうに言うんですよ。

新城 「将棋の神様に申し訳ない」みたいな。

木村 そうそう。そうなんです。

新城 ああ、なるほど。

木村 だって相手がうまくやったから負けたんじゃなくて、自分がミスしたから負けるっていうのが将棋の本質なので。

新城 素晴らしいですね。

木村 ええ。そうなんです。羽生さんに負けて悔しくて、ある棋士の方が「千駄ヶ谷から横浜の自宅まで革靴のまま走って帰った」とかって逸話があったりするんですけれども、別に羽生さんを殴りたいとかじゃないんですよ。自分のふがいなさが悔しくて。

新城 はいはい(笑)。

木村 そういうゲームなんですよね。もともと。

新城 ああ。いや、それは素晴らしい何かヒントをいただいたような気が。いやいや。私のほうはあくまでも小説家としてAIのことを考えているので、じゃあAIが小説がんがん書き始めたらどうしようかなと思ってたんですけども。小説家がいかにAIに接近して、しかしだめになっていくかっていう、そこを売りにすればいいのかなと、今ちょっと想像してたんですけども(笑)。商品としての小説家の敗北記、みたいな。

サンプル数が少ないものはAIには難しい

木村 まあでもAIは、大量に反復できることは学習してうまくなるんですが、一つ一つオーダーメイドのことをやるのは、やっぱりなかなか難しいんですね。

新城 そうらしいですね。私も何人か知り合いの人に「AIで小説書けないですかね?」って聞いてみたんですけども、今の技法だとどうしてもサンプル数が少なすぎるって言われたことが。

木村 そうそう。自動運転はサンプル数がたくさんあるけど、町中を動くっていうのは、一つ一つの事象が大変難しいっていうことがあるみたいですね。山本一成さんは、やっぱり金にならないとAI開発って進まないから、「ホテルのベッドメイキングをするAI」はできないんじゃないかってぼそっと言ったんですよね。技術的には実現可能でも、投資する人がいないだろうと。ベッドメイキングは、安い賃金でていねいにやってくれる人がある程度いるので。

新城 うん。人間のほうがね、安いお金でやってくれそうな。

AIは人間が絶対しないミスをする

新城カズマさん(左)と木村草太さん

木村 あと山本さんの言っていたことで印象的だったのは、AIは人間が絶対しないミスをやるという点ですね。

 AIは、人間よりもはるかにすごい性能を持っている、例えば自動運転にすれば、人間が運転するよりも交通事故を二ケタ減らすことはできるかもしれない。そのかわり、人間ならば絶対やらないような、いきなり歩道を走り出すような事故が起きるかもしれない。トータルでは圧倒的にAIの方が優秀であったとしても、人間が絶対しないミスをするというところが、人間には許せないのではないかと。

 山本さんはAI側の人ですから、そういうところで開発が滞ったり、ある技術を実用化できないのは悔しいと。

新城 悔しい(笑)。我が子AIがミスをして。

木村 将棋の世界もそうなんですよね。人間なら絶対にしないミスをコンピューターはやっちゃうことがあるんですよね。

ビッグデータで有権者の心を精密に読み取る

新城カズマさん新城カズマさん

新城 実は最近になってようやく記事が出てきたんですけども、まあAIとまでは行かないまでもビッグデータのレベルで相当に精密なことをやってるらしいんですね。イギリスにある「ケンブリッジ・アナリティカ」っていう会社がBrexit(イギリスのEU離脱)やトランプ選挙の有権者分析を委託されて、精密なデータをとって、選挙戦のあいだじゅう貢献してたんだぞっていう話がだんだん出てきたんですよ。

 それも一般にネットに出回ってる、ツイッターとかフェイスブックの公表されてるデータだけで有権者の心の動きを精密に、もうここの州のこの町のこの横丁のおばさんの気持ちはぐらいのとこまで読めるらしい。そういう記事が出てて。それが現状の単なるビッグデータにとどまらず、さらにその解析、人間集団の行動を事前に予測する方向へ人工知能が特化していったらかなりすごいことになるんじゃないか。もうリアルタイムで、たぶん有権者の心をつかめることになるのではないか。で、その結果、政治家の発言が5分ごとに右に行ったり、左行ったりして、もう本当に人としてどうなんだっていう政治家が次々出てくるんじゃないかと私なんかは思うんですけどね。

何より効率を優先するトランプの選挙活動はAI的

木村草太さん木村草太さん

木村 たまたま私、毎日新聞の労働組合のシンポジウムで「トランプはAIではないのか」って話をしてきたんです。

 それはどういうことかっていうと、少なくともいまのAIの特徴は、「目的を実現するに際して、人間のような倫理とか常識がない」というところにあるじゃないですか。比喩的に言えば、例えば、「羽生さんに将棋で勝ちなさい」って命令されたAIは、「羽生さんを殴るのが一番効率がいい」と思ったら殴るんですよ。AIは目的に照らして最も効率のいいものを選ぶから。

 トランプの選挙運動にも、そういうところを感じます。まともな政治家なら実現可能性のない政策なんて言わないわけですよ。言っちゃうと当選したあとに「あの約束はどうした」とか責められるから。でも、当選のためだけを考えるなら、実現可能性があろうがなかろうが、その集会の支持者が喜ぶことを言ったほうがいいわけですよね。あるいは、人種差別主義者の前では「差別します」って言ったほうがいい。

 そうやって、およそ人間の倫理とか常識を無視して、集票の最大化のために動くようなところが、非常にAI的ではないかと。なので、これはちょっとトランプとAIを並べて、それぞれの専門家に聞いてみたいなと、そういうかなり冒険的なシンポジウムをやったんです(笑)。

新城 素晴らしい。いや、でも本当にそうなんですよ。言ってることのつじつまさえ気にしなければ、要するに当選確率のことだけ考えるならば、たぶんトランプ的に振る舞うことが、選挙というゲームのなかでは正しいんですよね

木村 そうそう。だから蓮舫さんも電力総連のところに行って、「原発絶対稼働」って言って、国民には「再稼働絶対やらない」って言えばいいっていうことですよね(笑)。

オバマ陣営が開発した究極の「民意把握の技法」

松本 選挙戦で膨大なデータや個人情報を駆使するという点については、トランプ陣営以前に、ジョージ・W・ブッシュ陣営の参謀で、共和党の選挙戦略を抜本的に進化させたといわれるカール・ローブが有名ですね。

 2008年以降のオバマ陣営は、その手法からも学びつつ、さらに最先端のマーケティング戦略と独自の技法を生み出して究極の「民意把握の技法」を生み出したといわれています。

 埼玉大学教授の平林紀子さんが書かれた「マーケティング・デモクラシー ―世論と向き合う現代米国政治の戦略技術」(春風社)に詳述されていて実に面白いのですが、その一部だけ引用してみるとこんな具合です。

 「オバマのプロモーション戦略の特色は、①ビッグデータとマイクロターゲティングの革新、②それを説得と組織化、動員につなげる水面下の“ステルス”戦略、③全米縦横に自己発展する草の根組織の三点セットにある。この三つは有機的に関連し合って、オバマ・ブランドを支える」(318ページ)

 「オバマ陣営は、支持者やボランティア、集会に来る人すべてに、フェイスブック上の個人情報を閲覧しても良いかどうかを聞く。許可されれば、誰が仲間として登録されているかがわかる。オバマのターゲットになりそうな知り合いが含まれていれば、本人に頼んで呼びかけてもらう。キャンペーンのデータベースとフェイスブックに蓄積された膨大な『社交機密情報(social intelligence)』が統合されることで、有権者データ量が増えるだけでなく、コンタクト手段まで同時に入手する仕組みである。ボランティアや支持者は、どこを拠点にして誰に何を話せばよいかを具体的に指示される。しかもその相手は友人知人であり、少なくとも人の絆がある」(同書338ページ)

 「オバマの民意把握の技法は、2008年よりさらに高度化していた。(中略)オバマ陣営は、変貌の激しい有権者市場を正確にとらえるために、革新的手法でデータ分析と世論調査を統合した。(中略)オバマ陣営はまず、過去の選挙データを徹底的に読み込むことで、地域別・層別の特徴を十分に把握したうえで、大統領選挙史上例のない大規模の世論調査と、市場予測専門家並みの精密な行動モデルとを組み合わせることで、ニッチターゲットの微細な変化も見逃すことなく、報道や評論家の解釈にも左右されずに、最後まで選挙動向を正確に把握することができた」(同)

 そうやって集めた個人情報の集積をどうするのかというのが大きな問題だと、オバマ政権の選挙運動にかかわった複数の人にワシントンやニューヨークで会って聞いたことがあります。例えば同じ民主党といっても、候補者にとって究極の有権者データの集積である機密ファイルを、ライバルでもある別の候補者にそっくりそのまま譲り渡すわけにはいかないですから。

新城 そのデータ、今どこにあるんですかね?

松本 いやあ、わかりません。まあ恐らくオバマとその側近は知ってるでしょうね。

新城 個人的に持ち歩いてるんですかね(会場・笑)。それの争奪戦とかで小説が一本書けるな。

木村 なるほど。いいですね。

文章読解ができないために理科が解けない東大入試挑戦ロボット

新城カズマさん新城カズマさん

木村 AIについて、ちょっとおもしろいと感じているは、将棋とかでは非常に強くなってるAIなんですが、AIで東大合格を目指すという東ロボプロジェクトは挫折したんですね。

 これ非常におもしろくって、AIにとって一番難しいのが理科の問題だったらしいんですよ。例えば、物理だと、「次の絵のように、この滑車にこういう重りを乗っけたら、どう動くかやりなさい」とかって問題がよくありますよね。

 その、丸が書いてあって、その周りに線が書いてあって、その先に四角いものがついている、みたいな絵があっても、これが滑車で、そこにひもがかけられていて、その先に重りがぶら下がっている、っていうことを、AIは認識できないんですよ。

新城 そっちか。なるほど。

木村 あるいは、「車から後ろにボールを投げる」って言ったときに、人間なら何が起きてるかって想像できるんだけど、AIにとっては、それがどういう現象を言ってるのかを認識するのがすごく難しいので、理科の問題の認識がすごく難しいっていう。

新城 それはでもある意味、国語の文章読解ができないから理科が解けないっていうことですよね?

木村 そうそう、そうそう。そうなんですよ。

新城 試験問題がすべて数式で書いてあったら、まちがいなく解けただろうけども。

木村 問題ではそうなってないので。

新城 ですよね。

木村 だから東大入試がなかなか解けない。

新城 へえ。東大は実は国語の問題がカギになってくる。

AIに負けるプロ棋士と、プロ棋士が片手間で受かる東大入試が解けないAI

木村 国語の問題はけっこうカギですね。

 例えば将棋の世界ですと、片手間で国立大学の入試に受かっちゃうプロ棋士もいるんですよね。例えば、私と一緒に大学で授業やっている片上大輔さんは、東大法学部を卒業していて、奨励会に行きながら、片手間で東大入試にいきなり受かっちゃった。

新城 ああ、そっちが片手間(笑)。奨励会が本業。

木村 そうそう。糸谷哲郎前竜王なんかも、やっぱり片手間で大阪大学の入試に受かっちゃう。将棋ならプロ棋士にも勝てるようになったAIなのに、そのプロ棋士が片手間でやってる大学入試はAIが解けないって、大変おもしろくて示唆的な話だったんですけど。

新城 へえ。おもしろいな。でも国語というか、言語表現がまだ、まだそこはやはり。

木村 まだ。そこはね、やっぱり難しくて。

人間の読解力は大丈夫か?

木村草太さん木村草太さん

木村 東ロボくんの開発をしていた新井紀子さんのインタビューを読んだのですが、AIに国語の問題を解かせるとと、AIは文章の意味を人間と同じようには理解できないので、非常に機械的に解くらしいんですね。

 例えばセンター試験の問題で、「この文意に一番合うのはどれか? 1、2、3、4から選びなさい」っていう問題で、「一番短い文章と一番長い文章は間違いである可能性が高いので切り捨てる」とかってことを高度にやって解くらしいんですね。新井さんが衝撃を受けたのが、それで偏差値58。

新城 あー、けっこういけるんだ。

木村 けっこう高い。そこから新井さんが心配になったのは、「はたして人間の読解力は大丈夫だろうか」ということで。すごくおもしろいんですけど。

新城 ああ、それはおもしろい。まあたしかにね、我々も戦後の受験という文化に特化して数十年、何世代目かに今入りつつあるわけで。そっちの能力ばっかり伸びてる可能性はありますからね。

木村 だから、人間にはフェイクニュースを読み解けないかもしれないんですよね。

新城 そうそう、そうそう。それはあります。実際、かなりシンプルなフェイクニュースも信じられちゃってるっていうどこかの統計があったような、アメリカのほうで見たような気がしますけど。反論というか「そうじゃないよ。事実はこうだよ」というきちんとした反証を聞いたあとでもまだフェイクニュースのほうを信じ続ける人が多いっていうのが、その調査結果だったらしいんですけど。

小説家として首に斧が当たりつつあるのを感じる

松本 フェイクニュースとかポス・トトゥルースとか、一見すると複雑でややこしい時代に世界は入ってきているわけですが、先に申し上げたように、ジャーナリズムとしてはあくまでそこを「ファクトの力」で対抗したいというふうに思っています。その点、小説家の場合はいかがでしょうか? こんな時代だからこそ、いよいよ小説家の想像力というものが研ぎ澄まされて問われてくる、ある意味、やりがいのある時代なんじゃないかなというふうにも思えるんですが。

新城 そうですね。まあやりがいと言うか、もう首に何か斧(おの)が当たりつつあるような、ちょっとでも手を休めると、あっという間に現実に追い抜かされてしまうっていう感じなんで、危機感は本当に感じていますよね。

 だからあとはできるだけ皆さんが事実をまず理解した上で小説を読んでいただきたいなという。そうじゃないと、本当にあっという間にフィクションに押し流されちゃうんで。なので他の人にがんばっていただきたいなって、他力本願ばっかりなんですけど。「事実はあるんだよ」っていうことをちょっとだれかに、小説家が言っても全然信じられないので(笑)。どなたかにがんばっていただきたいなと思ってるんですけどね。

オススメ本ベスト10

松本 残り時間がわずかなので、せっかくですので、お手元の「オススメ本ベスト10」について、なぜこの本を選ばれたかっていうあたりをかいつまんで教えていただければと思います。

・・・ログインして読む
(残り:約6275文字/本文:約16684文字)