AIの思考プロセスは分からないのか／王銘琬『棋士とAI』

AIは結論だけ提示して、思考プロセスが判らないというようなことを聞いたことがある人も多いのではないでしょうか。あるいは「黒魔術」なんて言葉が使われたりもします。

専門家がそう言っているとなんとなくそういうものなのかなと思ってしまいがちですが、本書はそれに「ちょっと待って」と表明しているようです。

囲碁のプロ棋士であり、自身も囲碁ソフトの開発に携わった王銘琬先生の著書『棋士とAI』（岩波新書）です。

棋士とAI アルファ碁から始まった未来 （岩波新書） [ 王銘〓 ]

話の中心は例のアルファ碁にはなっていますが、「専門家」でありながら、慎重に自身の見解を述べているその態度がとても好感を覚えます。専門知はどうあるべきかについても考えさせられます。

本書から一部引用します。

専門家だからといって、その分野のすべてが分かっているわけではありません。私は囲碁の専門家と思われていますが、詳しく言いますと「賞金のかかった試合で生活している人」、トーナメントプロとも呼ばれます。どうすれば試合に勝てるかについては詳しいですが、囲碁全般についてそれほど知っているわけではありません。

どんなジャンルでもプロと比べますと、入門者や初心者、または愛好者が圧倒的に多いでしょう。全体的に見れば、その分野の本体をなすのはその人たちですが、私はその方たちのことに詳しいわけではありません。初心者の気持ちや入門者への教え方でしたら、囲碁教室の先生の方がよく知っているし、囲碁大会を開催する時は、私は会場に行く以外なにもできません。囲碁ファンの皆さんは新聞、雑誌などの読み物を通じて、私たちの碁を見ることが多いですが、その原稿を書いて下さるのは囲碁記者です。

 自分が何を知っていて、何を知らないのか。専門家としての立場に謙虚に向き合っている姿勢が垣間見えます。

「専門知」ということを考えなければならないのは、AIの専門家についても同じです。

もちろん、あまりに厳密に語りすぎたら伝わるものも伝わりません。それに専門的な知識や用語を一般の方に伝えるのは、必ずしも容易なことではないでしょう。しかし「専門家」として周りから見られる以上、情報発信の仕方には十分留意しなければなりません。

「AIはなにを考えているか分からない」という言説にしてもそうです。本書が警鐘を鳴らしていることのひとつですが、そこには「本質的に分からない」ことと「情報が公開されていないから分からない」ことの混同が見られます。

そのうえで本書では、囲碁に関しては、むしろAIのほうが思考プロセスがよく分かる、と言います。

どういうことかというと、人間のほうが何を考えているか分からないからです。

ソフトであればその思考プロセスがログに残されているので、一手一手辿っていくことができます。しかもそれぞれの候補手について評価値を参照できるので、どの手を良い悪いと考えていたかは容易にわかります。

それに比べると、人間の局後検討は不正確極まります。井山棋聖や羽生竜王の頭の中を除くことはできません。形勢判断は感覚的な部分も多いですし、一手ごとにどういう候補手を考えていたかなんて、正確には記憶していません。

AIには分からないところもまだまだ沢山あります。しかし人間の頭の中はそれ以上によく分からないのです。

一方、上記のような「本質的に分からない」こととは違い、情報がオープンにされていないから分からないことも多々あります。

たとえば「囲碁未来サミット」の閉会後に、アルファ碁の自己対局の棋譜が50局公表されました。ところが、その自己対局の棋譜で白の勝率が76％もあったことから、白番がこんなに有利だったのかと棋界を驚かしたのです。

後になって、自己対局は何局も行われており、そのなかから面白そうな50局をチョイスしただけだということが判明しました。初めからこうした情報が明かされていないと、それに踊らされてしまうことになるわけです。

アルファ碁ゼロにもこうした謎がいくつもありました。

①「囲碁未来サミット」の時点で「マスター」バージョンより強い「ゼロ」バージョンがあったのに、サミットでは一言も触れられなかった。

②「ゼロ」はイ・セドルと対局したバージョンに100勝無敗、「マスター」バージョンに89勝11敗と報道。しかし両対局の「ゼロ」のニューラルネットワークの層数は違っており、異なる条件で比較している

③教師あり学習より、教師なし学習のほうが優れているかのようなグラフがあるが、「ゼロ」は教師なし学習にしたこと以外に、大きくシステムを変更した点があった

④「ゼロ」はTPU4個で動いているとされたが、学習時のスペックはTPUを2000個使用していたことがあとで明らかにされた。

アルファ碁ゼロの論文の著者は17名に及ぶそうですが、中心となったハサビスさんもAIのすべてを把握しているわけではないそうです。

ディープマインド社はイ・セドル戦の前に論文を公開しましたが、メンバーの中には「手の内をさらすべきではない」と公開に反対する人もいました。

こうして見ると「本質的に分からない」ことと「情報が公開されていない」ことは、別の問題であるということが見えてきます。

――――――

アルファ碁については、『日経サイエンス』の2018年2月号に加藤秀樹氏の解説が掲載されています。

日経サイエンス 2018年2月号[本/雑誌] (雑誌) / 日本経済新聞出版社

アルファ碁ゼロは自己対戦だけで驚異的な強さに到達しましたが、その学習環境は「個人のソフトウェア環境では700年」「大学の研究室なら数十年必要」というほどのものでした。ディープラーニングを取り入れたら簡単に実現できるというものではありません。

また「ゼロ」バージョンには1号と2号があり、1号は「マスター」バージョンのアルファ碁（教師あり学習）の強さには届かなかったそうです。マスターを超えたのは、ディープラーニングの層数を2倍にした2号です。

たしかに「教師なし学習」でも圧倒的な強さに至ったのは衝撃的ですが、そのほうが学習効率が良いなんてわけではないようです。

この辺の情報、決して一般向けに知られているとは思えないのですが、そうしたことを抜きにAIのイメージが膨らんでいる気がします。

AIという語だけで、よく分からないまま騒ぎ立てるのは、どうなんでしょうか。

この点は、報道の役割も大きいと思います。

･･････ねえ、NHKさん？