国立研究開発法人産業技術総合研究所 人工知能研究センター長　辻井潤一氏に聞く
（３）第４次AIブームを切り拓くXAIとCAI

第４次AIブームでは演繹的なものと帰納的なものが融合する

桐原　第４次のAIブームは、具体的にはどういうふうに進んでいくとお考えでしょうか？

辻井　いくつかのフェーズがあると思っています。１つはAIのなかで何が起こっているかを透明化して見せる。実際に判断をしているAIの横に、その判断過程を見ている別のAIがいて、何を見ているのかを上手に人間の側に見せてあげるみたいなイメージです。AIを分析するようなもう１つのAIをつくって、ちょうど人間とAIの間を仲介する役割を担わせます。アテンションの機構を可視化して、AIがこういうところを見ているのでこういう判断をしたんだと理解できるようにするとか、深層学習のネットワークの内部を可視化してどういう特徴量を捉えているのかを人間にうまく見せてあげる、といった試みが行われています。AIを完全なブラックボックスから少しずつホワイトボックス化する役割を別のAIにやらせるわけです。もう１つは、AIの構成そのもののなかにもっと人間が持っている理解のかたちを埋め込んであげて、AIのアーキテクチャーの設計そのものに我々の科学や工学が作りあげてきた理解の体系を投影するやり方があります。たとえば、いろんな有機化合物の化学式からどういう性質を持つ物質なのかを予測するAIをつくろうというときに、１つは化学式と物性値のデータをたくさん集めてその間を深層学習のモデルでつないであげるというend-to-endのやり方が考えられます。化合物の化学式の物性値の間に何か規則性があるんだけれど、その規則性をデータだけから学習させようという方法です。現在のAIはこうしたend-to-endのやり方が多いわけです。一方で、我々人間には物理学の知識もあるわけですから、物性科学者は何が起こるとどういう物性値が出てくるのかという機構も理解しています。それを深層学習のモデルのなかに再現してあげるというやり方も考えられます。end-to-endではないかたちの深層学習のモデルをつくるという研究をしているグループがあって、物理的に規則性が判明している層を道標のようにAIのモデルのなかに置いてあげる。そうすることで、深層学習でも大きなネットワークは必要なくて小さなモデルで計算が可能になり、また、外挿能力、言い換えると演繹能力の高いAIを作ることができます。

桐原　人間の知見を埋め込むわけですね。

辻井　そうすると演繹性が出るんですね。end-to-endでやっているときだと、低分子の有機化合物の物性値はデータもたくさんあるので当たるのですが、高分子になるとデータが非常にスパース（まばら）になるわけです。いろんな分子がいろんなかたちで重なり合って大きめの分子をつくるので、そこはもう千差万別の化学式があり、そのデータをすべて取るというのはほとんど不可能になります。大きなネットワークで学習していると、低分子では当たるんだけど高分子になると全然当たらなくなるんですね。ところが前述したような道標を入れてあげると演繹性も出て、高分子でもかなり当たるようになります。結局どういうことかというと、物理学が蓄えてきた知識を深層学習のモデル設計のところに入れてあげると、全体としてよりいいシステムができるということです。そういう話は今いろんなところでやられていると思います。専門的な知識をAIのシステムのなかに入れ込んでいくというのも１つの方法として浸透していくでしょう。

桐原　なるほど、非常に面白いですね。第２次AIブームから第３次ブームへの移行は演繹的な思考から帰納的な思考への移行で、次に来る時代は帰納と演繹の両方の能力を持ったAIに向かうというわけですね。

辻井　その通りです。

桐原　第４次では、ここにもう一回新たに演繹的な思考を入れることで、人間にも理解できるAIに近づけようというか、人間と親しみやすい状態にしようということですね。

辻井　もう１つ、「knowledge graph」*という第２次であったような記号的な構造をニューラルネットのなかにうまく入れ込む方法も検討されています。構造的なデータを分散表現に移し込んでニューラルネットに入れ込むとか、逆にニューラルネットの結果を今度は記号的な系と結びつけるという研究も進み始はじめています。

＊knowledge graph：現実世界での知識を構造化された事実構造で表現した有向グラフのこと。

桐原　演繹的なものと帰納的なものが融合していくわけですね。より人間がやっていることに近づいているのかもしれませんね。

辻井　そうですね。そこも２つの方向性があると思うのです。１つは、AIはもう完全に技術として割り切ってしまって、人間とは全然違うものと見てその能力を上げていくために演繹性をどう入れるかという議論があります。もう１つは、AIを人間に近づけていく方向性です。人間とAIがコミュニケーションをしていこうと思うと、どこかでオーバーラップをうまくつくらないと人間には理解できないので人間に近づくような方向も考えていかざるを得ないと思います。

桐原　今、AIが実装の局面で進みながら、いろんな問題にぶち当たっていますが、このXAIとかCAIといわれるものがよりAIが人の社会に入っていくためのブレークスルーの大きなヒントになりますね。

辻井　AIの社会実装について考えると、社会に受け入れられるかどうかが大きな問題になっていると思います。AIが社会実装されるということは、閉じた世界で使われているところから社会のなかにどんどん入って行くことですよね。そうなると、AIの社会実装を受け入れる社会の側の受容度を上げていく必要があるわけです。そこでやっぱり説明可能性だとかブラックボックスではないAIをうまくつくらないと、「いい判断をしますよ」ということだけでは受容度は高まらない感じがしています。