AIが持つブラックボックス性の解決が次の大きな課題
国立研究開発法人産業技術総合研究所 人工知能研究センター長 辻井潤一氏に聞く（２）
FEATUREおすすめ
2022.10.26
聞き手
桐原 永叔
IT批評編集長
AIに対する過剰な期待も恐怖も、それがどのような種類の知能かわからないところにある。人間の知能とはどこが違うのか、違う種類の知能と協働するとはどういうことなのか。AI的知能と我々がつくってきた科学技術の体系の組み合わせにブレークスルーのヒントがあるという。
辻井 潤一（つじい じゅんいち）
情報科学者。国立研究開発法人産業技術総合研究所人工知能研究センター長。
1973年京都大学大学院修了。工学博士。京都大学助教授、1988年マンチェスター大学教授、1995年東京大学大学院教授、2011年マイクロソフト研究所アジア（北京）首席研究員等を経て現職。マンチェスター大学教授兼任。
計算言語学会（ACL）、国際機械翻訳協会（IAMT）、アジア言語処理学会連（AFNLP）、言語処理学会などの会長を歴任、2015年より国際計算言語学委員会（ICCL）会長。
紫綬褒章、情報処理学会功績賞、船井業績賞、大川賞、AMT（国際機械翻訳協会）栄誉賞、ACL Lifetime Achievement Award、瑞宝中綬章等、受賞多数。
目次
第3次AIブームがもたらした“知能へのアプローチ”に関する断絶
桐原 先生がXAI（Explainable AI：説明可能AI）*に研究の軸足を向けられているのはどういうきっかけなのでしょうか？
＊XAI（Explainable AI：説明可能AI）：人工知能 (AI) が導き出した答えに対して、人間が納得できる根拠を示すための技術。特定の技術やツールを指す言葉ではなく、「AIを理解する」という目的ために研究・提案されている技術の総称。
辻井 必ずしもXAIに軸足を置いているわけではなく、AI全体を見ている状態です。東大を辞めてマイクロソフトに異動したのですけど、産総研（産業技術総合研究所）から、2015年にできる人工知能研究センターにきませんかという話があり戻ってきました。そこで言語処理専門からAI全般を扱うようになりました。産総研ではいろんなAIに関連した研究をやっていますから、言語から少し離れて人工知能そのものの研究を見ていく立場になったという感じです。
桐原 先生は第３次AIブームの限界を突破するためには、XAIやCAI（Co-evolutional AI：共進化AI）*が鍵になると言われています。
＊CAI（Co-evolutional AI：共進化AI）：人とAIがそれぞれの得意領域において役割を分担して協働し、共に成長・進化するという概念。
辻井 AIの歴史からいうと、この第３次ブームでかなり大きな変革があったことは確かだと思うのです。第２次までは、基本的にアルゴリズムというある種の計算の世界で人間の知能を捉えようとしていました。計算の世界というのは、僕らが対象をきっちりと理解して、それをアルゴリズムとして表現することで何かをやっていきましょうという世界です。だから知能研究も、知能を比較的合理的に捉えて、それを計算機に移し込むという手法だったわけです。その第２次から第３次の間に、人工知能とは別の流れでビッグデータの時代が来ました。計算機の能力が強力になってきて、また、計算機システムにデータが大量に入ってくるようになった。インターネットの発達がそれに寄与しました。サイバー世界のなかに大量のデータが入ってくると、そのデータのなかに潜む規則性を捉えて、それを知能の基盤に据えましょうという、いわゆる機械学習が出てくるわけです。ビッグデータアナリティクスがいろいろつくられてきて、その延長として大きなデータがあると、そのなかに潜む規則性を計算機みずからが紡ぎ出して、それが知能的な能力を持つようになる。人間が対象を捉えていなくても、データが大量にあると計算機がみずから規則性を捉えることができて、それで知能的な処理ができるという方向にシフトしていくわけです。それは従来のいわゆる計算機科学の方法論から数理科学の方法論への移行です。データの数理的特性を捉えてそれを計算にのせるという意味では、計算科学とはかなり異質の方法論が人工知能研究に入ってきて、数学理論としての数理科学や機械学習とアルゴリズムという計算機科学とが合体するような分野として人工知能が捉えられるようになりました。
桐原 それが第3次に当たるわけですね。
辻井 そういう意味では第２次と第３次の間でAIに対する見方がかなり変わってきています。人間の知能を理解してそれを計算機に移すという人工知能から、知能そのものを理解していなくても大量のデータがあれば、そのデータに潜んでいる規則性を汎化してとらえることができる、これを知能的な処理の基盤とすることができる、これを人工知能の一つのかたちとしてシステム化していきましょうとシフトしたわけです。
桐原 そこに方法論として大きな断絶があるのは確かなように感じます。
