わかりにくさの罪、わかりやすさの罰
XAIが目指す帰納的飛躍の解消

天才か狂気か？　説明不能な知性

囲碁AIの歴史と第3次AIブームは切っても切り離せない。囲碁AI・アルファ碁が当時、むこう10年以上は無理だと言われたプロ棋士に対し勝利したのは2016年のことである。このセンセーショナルなニュースを機に第3次AIブームは始まったともいえる。もちろんより正確にいえば画像認識コンテストILSVRCにおいてジェフリー・ヒントン率いるトロント大学が２位に圧倒的な差をつけて優勝した2012年、ディープラーニングの威力は斯界を賑わした。しかし、より世間にインパクトがあったのは、アルファ碁がプロ棋士のイ・セドルとの５番勝負に勝利したことのほうだ。

今回の記事で注目すべきことは、この対局において世界中のプロ棋士にまったく理解できない手をアルファ碁は打った。その手は2500年を超える囲碁の歴史のなかで、したがって人類がかつて一度も打ったことのない手であった。アルファ碁は第1次AIブームの技術につらなるモンテカルロ木検索というアルゴリズムと、ディープラーニングのような機械学習を組み合わせたプログラムである。重要なのは、AIのアウトプットがプロ棋士はもちろんアルファ碁の開発者当人にも理解できなかった点にある。なぜなら、アルファ碁は人が手を教える「教師学習」だけでなく、独自に自己対局を繰り返す「教師なし学習」を経て強化されているからだ。「教師なし学習」に人は関知しない。よって、アルファ碁がどのように強化されたかわからないのだ。

私は以前、このエッセーで将棋の天才棋士・羽生善治氏がAIも「直感」をもったのかもしれないと述べたことに触れた。将棋にせよ、囲碁にせよ、プロ棋士であっても人は対局中の候補手について、AIほどの選択肢をもたない。経験的に─つまり帰納的に─閃いたいくつかの手のなかから次の手を選ぶのだ。そして、ここに才能と実力の差がでる。天才の直感、閃きは常人には理解しがたいものだ。後知恵であっても解釈すら阻むことがあるのが、天才の閃きである。

ゲームの世界だけではない。科学の世界でも天才の閃きは往々にして理解されない。『科学と非科学 その正体を探る』（中屋敷均著/談社現代新書）には、たったひとつの新説に対する不理解によって地位と名誉を失う細胞遺伝学者バーバラ・マクリントックの話がでてくる。

バーバラの新説は精緻なほどに理路整然としており疑いの余地のない結論を導いていた。しかし誰もそのロジックから確信を得られなかった。バーバラは他の研究者には決して理解できない方法によって対象を観察していた。「細胞のなかに降りていき、周囲を見回す」から同じ観察でも他の研究者より多くの発見ができると言ったそうだ。そんな説明はほとんど呪術の世界である。

彼女の新説を裏付ける研究が発表されるようになったのはそれから10年以上後のことである。

天才とは狂気と紙一重であるとよく言うが、天才とはそれほど理解できないものである。言い換えれば、インプットとアウトプットのバランスが常人にはまったく理解できないゆえに、それは狂気とされる。

「細胞のなかに降りていく」というインプットと大発見となるアウトプットがつながらないために、それは神秘であり神秘を許さない科学界ではインチキと見做されるわけだ。