読書熊録

本に出会う歓びを、誰かと共有したい書評ブログ

AIは人の顔をするー読書感想「人工知能はどのようにして「名人」を超えたのか?」(山本一成)

 人工知能(AI)ってこんなに面白いんだ! プロ棋士に初めて勝利した将棋プログラム「ポナンザ」の作者である山本一成さんの著書「人工知能はどのようにして『名人』を超えたのか? 最強の将棋AIポナンザの開発者が教える機械学習・深層学習・強化学習の本質」を読むと、子どもの頃に感じたような素直な喜びがあふれる。それは様々な観点から、AIは人の顔をしているんだという実感だ。無機質な機械ではなく、かといって代替する生命体でもないけど、けっこう似ている。AIとの付き合い方の糸口が見える一冊。ダイヤモンド社。

 

f:id:dokushok:20180113141959j:image

 

 

知能と知性はどう違うか?

 本書を読んで脳内にできた新しい回路の一つが、「知能と知性はどうちがうのか?」という問いへの答えだった。

 

 山本さんは、明快に語る。AIが持つような「知能」は、「目的に向かう道を探す能力」。対して、AIがいまだ持たない「知性」は、その「目的を設計する能力」、というものだ(p171から)。裏を返せば、AIには知能はあっても、いまだ知性がない。

 

 目標に向かう道を探す能力=知能について、山本さんは探索(エミュレート)探索+評価(シュミレート)を挙げている。探索とは、「片っ端から探す」という方法。しかし、たとえば将棋であれば、天文学的な数に上る差し手の全てを探索することは難しい。

 そこで、目的に対して何が有効かという尺度を学習させ、差し手を評価しながら探索するシュミレートを行うことで、限られたリソースで最善手にたどり着ける。

 

 対して知性である。山本さんの指摘で面白いのが、目的の設定とは「物語の力」だというものだ。

 たとえば将棋であれば、人間は相手の一手一手に意味を求め、なんらかの目的を持った物語として理解しようとします。だからこそ、先ほどの43手詰めのような、ポナンザでも苦労するようなはるか先の局面までも、生身の脳で読み通すことができるわけです。(p181)

 ポナンザは「将棋に勝つ」という「設定された目的」に対した最善のルートを計算し、将棋を指している。しかし人間は、もちろん同じ勝利という目的に対して、「いまどういう状況なのか」「相手はこういう狙いを持っているから、こう勝負しよう」という「物語」を設定できる。その結果、物語のハイライト、「まずは飛車を狙う」などの「中間の目的」を新たに設定できるというのだ。

 

 物語を感じる力こそ人間が持つ知性である。一見して詩的な表現だが、それがロジカルだというのが何とも刺激的だった。しかしうかうかしていられない。山本さんはある方法で、この知性をAIも獲得できると見ている。その中身はぜひ本書で知って欲しい。

 

AIは人間の悪意もラーンする

 AIは人間の顔をする、というエントリータイトルにしようと思ったのは、本書のもう一つのエッセンスに触れたため。それは、「AIは人間の悪意も学習する」という話だ。

 

 山本さんは、グーグル社の写真管理アプリ「グーグルフォト」で起こった事例を挙げる。このサービスはAIの知能、つまり評価と探索を学習させたことにより、写真に自動でタグ付けを行い、ユーザーが管理しやすいようにしていた。そこで、肌の黒い人物に対して、誤って「ゴリラ」とタグ付けしてしまったのだ。

 

 なぜこのような人種差別的なタグ付が起きたのか?グーグルは詳しいアルゴリズムを明かしていないものの、山本さんは「インターネット上の大量の写真データとそれに関連する文章を収集し、タグ付けに活用していた」という予測の元、こう推論した。

 このとき残念なことに、「間違い」、正確には「悪意ある」タグづけも吸収してしまったのでしょう。インターネット上には、肌が黒い人を「ゴリラ」と揶揄する言葉があふれています。その言葉を文字通り吸収した結果が、今回の事件だったのです。(p197)

  AIが人種差別的なタグ付けをしたのは、「人間が生んだデータ」の中に人種差別的な揶揄があふれていたから。これは驚くべき話だと思う。

 

 AIが人間の仕事や役割を奪ったり、もっと言えば人間そのものを排除するというようなテクノフォビアがある。しかしグーグルフォトに基づけば、AIが悪意を持つとすれば、それはAIに学習させた人間自身の悪意にほかならない。

 こう考えると、AIが主役の社会に必要なのはテクノロジーだけではなく、倫理や哲学だと分かる。善く生きること、共に生きること。人間自身ができていないことを、AIが突如として始めることはないのである。AIは、我々の映し鏡でもある。

 

人間くさい専門用語たち

 必ずしも本論ではないけれど、山本さんが端々で紹介してくれる「AI屋」の専門用語も面白い。一つ一つが実に人間くさいのだ。

 

 たとえば「雑巾絞り」(p126)。これは強化学習のひとつで、将棋であればある局面を6~8手進めてみて、その結果が「事前の評価より良かったのか、悪かったのか」をAIにフィードバックする。こうした学習で、ポナンザの将棋力を少しずつ上げていく様が、雑巾絞りのように地道だという話だ。

 

 「エレガントな解法とエレファントな解法」(p144)というのも格好いい。数学用語で、きれいに解ける方法をエレガントと形容する。一方で、囲碁のAIで使われる、膨大なランダム選択と良好な結果を結びつける「モンテカルロ法」のように、コンピュータの計算力で力任せに解を導くと、エレファントな解法と言われるそうだ。ほんのちょっとしか綴りを変えない、言葉遊びみたいなのに、ここまで明快に分類できるなんてすごい。

 

 山本さんは、こうした言葉も丁寧に説明してくれるし、図解もたくさん使ってくれている。何より、ポナンザを説明する語り口がとっても楽しそうだ。そのポジティブな感情が読者にも伝播する。AIって、面白い!

 

 今回紹介した本は、こちらです。

 

 AI、テクノロジーとの付き合い方を、こちらはビビットな言葉で伝えてくれます。落合陽一さんの「超AI時代の生存戦略」は、また違ったテイストで面白いです。

www.dokushok.com

 

 倫理、人としてどうあるかを考えさせられる最大の局面は、「死」かもしれません。医師として死への向き合い方を「一緒に考えてくれる」ような一冊がアトゥール・ガワンデさんの「死すべき定め」でした。

www.dokushok.com