国立研究開発法人産業技術総合研究所 人工知能研究センター長　辻井潤一氏に聞く
（３）第４次AIブームを切り拓くXAIとCAI

次のブレークスルーにはディープラーニング以前の技術も必要

桐原　オーバースペックなものって意外にビジネスの現場では求められていなかったりします。AIエンジニアと話をすると、「別にディープラーニングじゃなくてアルゴリズムでできるレベルですね」みたいなことを言われたりします。

辻井　そうですね。ディープラーニングでつくられるのは１つのコンポーネントだと思うんですね。実際に使われる現場では、それを組み込んだ大きなシステム構成をつくらざるを得なくて、場合によってはディープラーニングの部分はごくごく小さいかもしれない。いわゆる第２次のAIでやっていたようなことが結構役に立つ部分も大きいと思います。AIが社会に入っていくときには、ディープラーニングという言葉が過剰に期待を抱かせたことは確かで、実はディープラーニング以外の技術の貢献も結構大きいのかなという感じはしています。

桐原　それこそ囲碁AIも探索の技術とか推論の技術で発達してきました。第３次AIブームと同じ頃にモンテカルロ木探索が入って、そこにディープラーニングが来て爆発的な進化をしたという意味で言うと、第１次の技術と第３次の技術の融合と言えますね。

辻井　本当にそうですね。

桐原　演繹的な論理の推論のような部分と帰納的な論理のディープラーニングのような部分というのは、AIのなかで得意分野を使い分けるという考え方でいいんでしょうか？

辻井　その通りです。ある種の直感的な部分がディープラーニングでできるとか、あるいはこの局面だとどの方向に行くのがいいのかというプレディクション（予測）はディープラーニングがやると思います。一方で、プランニングに相当するような、先ほど言われたモンテカルロのリサーチというのは、むしろ第１次のリサーチの問題と確率的な話をうまく取り込んだわけですよね。そういう意味では、必ずしもディープラーニングだけで全てが解けたわけではなくて、プランニングにもまた別の技術が入ってくるし、シミュレーション技術ももっと強力に使われていくと思うんですね。ディープラーニングが１つのブレークスルーであったことは確かなんだけど、他のブレークスルーも、第4次AIには寄与してくるだろうと感じています。

桐原　XAIの研究は世界的にかなり進んでいるのでしょうか？

辻井　もともとXAIが注目されたのは、アメリカのDARPA（国防高等研究計画局）がXAIのプロジェクトを始めたことがやはり大きな契機になっています。ただ、説明可能AIという言葉は「説明」にちょっと重点を置きすぎているきらいがあります。それ以外にもAIのブラックボックス性という別の問題があって、なんでこの結果が出てきたのか、思考のプロセスを透明化していこうという流れも出てきています。特にヨーロッパはその意識が強いでしょう。現在は、DARPAがやった狭い意味でのXAIから、もう少し広い範囲でAIの制御可能性や透明性や責任性について議論されています。

桐原　今日は京都大学の研究時代の話からスタートしたのですが、その当時に機械翻訳に取り組む際に、理解や意味を切り離して言語のかたちだけを処理する技術として捉えるということをおっしゃっていましたが、今また逆に意味を理解する汎用性の高いAIをつくろうとしているというのは、AI進化の歴史を垣間見るようで大変興味深かったです。

辻井　機械翻訳に関して言うと今はend-to-endで、本当に言語のかたちだけでかなりの部分ができるようになりました。しかし、次のステップになると、抜本的なイノベーションのためには、やはり意味の理解を入れざるを得ない。そこにはまだほとんど手が付いていない感じですね。（了）