AIに対する過剰な期待も恐怖も、それがどのような種類の知能かわからないところにある。人間の知能とはどこが違うのか、違う種類の知能と協働するとはどういうことなのか。AI的知能と我々がつくってきた科学技術の体系の組み合わせにブレークスルーのヒントがあるという。

取材：2022年9月21日　オンラインにて

 

 

辻井 潤一（つじい じゅんいち） 情報科学者。国立研究開発法人産業技術総合研究所人工知能研究センター長。 1973年京都大学大学院修了。工学博士。京都大学助教授、1988年マンチェスター大学教授、1995年東京大学大学院教授、2011年マイクロソフト研究所アジア（北京）首席研究員等を経て現職。マンチェスター大学教授兼任。 計算言語学会（ACL）、国際機械翻訳協会（IAMT）、アジア言語処理学会連（AFNLP）、言語処理学会などの会長を歴任、2015年より国際計算言語学委員会（ICCL）会長。 紫綬褒章、情報処理学会功績賞、船井業績賞、大川賞、AMT（国際機械翻訳協会）栄誉賞、ACL Lifetime Achievement Award、瑞宝中綬章等、受賞多数。

 

 

目次

第3次AIブームがもたらした“知能へのアプローチ”に関する断絶

人間には理解できない知能の出現

勝ち負けや優劣をいっても仕方がない

AIの知能が、人間の知能をカバーすることはできない

 

 

 

第3次AIブームがもたらした“知能へのアプローチ”に関する断絶

 

桐原　先生がXAI（Explainable AI：説明可能AI）*に研究の軸足を向けられているのはどういうきっかけなのでしょうか？

＊XAI（Explainable AI：説明可能AI）：人工知能 (AI) が導き出した答えに対して、人間が納得できる根拠を示すための技術。特定の技術やツールを指す言葉ではなく、「AIを理解する」という目的ために研究・提案されている技術の総称。

 

辻井　必ずしもXAIに軸足を置いているわけではなく、AI全体を見ている状態です。東大を辞めてマイクロソフトに異動したのですけど、産総研（産業技術総合研究所）から、2015年にできる人工知能研究センターにきませんかという話があり戻ってきました。そこで言語処理専門からAI全般を扱うようになりました。産総研ではいろんなAIに関連した研究をやっていますから、言語から少し離れて人工知能そのものの研究を見ていく立場になったという感じです。

 

桐原　先生は第３次AIブームの限界を突破するためには、XAIやCAI（Co-evolutional AI：共進化AI）*が鍵になると言われています。

＊CAI（Co-evolutional AI：共進化AI）：人とAIがそれぞれの得意領域において役割を分担して協働し、共に成長・進化するという概念。

 

辻井　AIの歴史からいうと、この第３次ブームでかなり大きな変革があったことは確かだと思うのです。第２次までは、基本的にアルゴリズムというある種の計算の世界で人間の知能を捉えようとしていました。計算の世界というのは、僕らが対象をきっちりと理解して、それをアルゴリズムとして表現することで何かをやっていきましょうという世界です。だから知能研究も、知能を比較的合理的に捉えて、それを計算機に移し込むという手法だったわけです。その第２次から第３次の間に、人工知能とは別の流れでビッグデータの時代が来ました。計算機の能力が強力になってきて、また、計算機システムにデータが大量に入ってくるようになった。インターネットの発達がそれに寄与しました。サイバー世界のなかに大量のデータが入ってくると、そのデータのなかに潜む規則性を捉えて、それを知能の基盤に据えましょうという、いわゆる機械学習が出てくるわけです。ビッグデータアナリティクスがいろいろつくられてきて、その延長として大きなデータがあると、そのなかに潜む規則性を計算機みずからが紡ぎ出して、それが知能的な能力を持つようになる。人間が対象を捉えていなくても、データが大量にあると計算機がみずから規則性を捉えることができて、それで知能的な処理ができるという方向にシフトしていくわけです。それは従来のいわゆる計算機科学の方法論から数理科学の方法論への移行です。データの数理的特性を捉えてそれを計算にのせるという意味では、計算科学とはかなり異質の方法論が人工知能研究に入ってきて、数学理論としての数理科学や機械学習とアルゴリズムという計算機科学とが合体するような分野として人工知能が捉えられるようになりました。

 

桐原　それが第3次に当たるわけですね。

 

辻井　そういう意味では第２次と第３次の間でAIに対する見方がかなり変わってきています。人間の知能を理解してそれを計算機に移すという人工知能から、知能そのものを理解していなくても大量のデータがあれば、そのデータに潜んでいる規則性を汎化してとらえることができる、これを知能的な処理の基盤とすることができる、これを人工知能の一つのかたちとしてシステム化していきましょうとシフトしたわけです。

 

桐原　そこに方法論として大きな断絶があるのは確かなように感じます。

 

 

人間には理解できない知能の出現

 

辻井　その２つの方法論をもう少し緊密に統合していかないと、次のステップに行けないのではないかというふうに僕は考えています。どういうことかというと、ビッグデータの時代は、大きなデータのなかに潜んでいる規則性みたいなものを計算機の力を使って解析して、人間にうまく見せてくれることで人間が対象を理解することを助けてくれるツールが作られた。よくいわれるデータマイニングも、大きなデータのなかから規則を自動的に計算機がつくり出して、こんな規則があるということを人間に教えてくれて、人間が対象を理解することを助けてくれた。データを有効に使いながら人間が対象を理解するというかたちでビッグデータの時代は進んでいたわけです。それが、AIが入ってきたことで、そういう規則が取り出せるのであればわざわざ人間に見せなくても、その規則をそのまま計算機が使うと知能的な処理が計算機で実現できる。だから人間から切り離しても、つまり人間が対象を理解しなくても、計算機が知能的なことをやってくれるというかたちに第３次のAIはなったわけです。ビッグデータからさらに一歩進んで、そういう計算関係を計算機が自分で使えばいいですよというふうに変わって現在のAIができた。

 

桐原　人間がかかわらなくとも、計算が成り立つようになったわけですね。

 

辻井　それによって非常に役に立つ技術ができたわけですけど、逆に今度はビッグデータが持っているブラックボックス性がより強くなるわけです。たくさんのデータがあるときに、そこからどういう規則性があるかを、いろんな統計処理をしながら人間が理解して、人間が理解することでデータを使っていた時代から、データそのもので計算処理をしてしまえばいいとなった途端に、膨大なデータの持っているブラックボックス性がそのまま現在のAIでは残ってしまうことになった。別の言い方をすると、人間には理解できない知能が出現したということになるんだと思うんですね。ただ、それは技術としても不完全で人間が制御できない状態が起こりうる。そこから、AIの透明性をどう上げていくか、どうコントロールしていくか、人間からの制御をどういうふうにAIにかぶせていくかという、大きな問題が出てきたと思うんです。それが次に来るAI研究の大きな課題なんだろうと考えています。説明できるAIへの関心も、そういう文脈でとらえることができる。

 

 

勝ち負けや優劣をいっても仕方がない

 

桐原　お話をお聞きして、私も思い出していることがあります。DeepMindのAlphaGoがイ・セドルに最初に勝ったときの対局。中継を見ていたプロ棋士の多くが「こんなメチャクチャな手を打つなんて、やっぱりAIは何も分かってないね」と考えたそうです。ところが大逆転が起きてAlphaGoが勝利しました。人間には理解できない知能が出現した瞬間は、まさにそこなのかなと思っていて非常に象徴的な出来事として捉えています。

 

辻井　僕らは「知能」とひとまとめに言い表しますけど、実は知能にはいろんなファセットがあって、いろんな能力の集合体だと思います。たとえば、空間的な把握能力とか言語能力だとか数を操る能力だとか、いろんな違った能力の組み合わせで知能はできているわけです。それをうまくかみ合わせて知能を１次元的な軸に落とし込んで知能指数がいくらだとかというふうにいうわけです。ところが、全く基盤が違う知能が出てくると「知能」という言葉で一次元的に並べて優劣を比較すること自体が無意味になってきていると思います。AIと人間では、かなり違ったディメンジョン（次元）を持った知能体だから、どちらが勝つとか負けるとか優れているとか優れていないといっても仕方がなくて、それをどう組み合わせるかということを考えていかざるを得ないんじゃないかと考えています。

 

桐原　人間が、人間以外の人間には理解できない知能に出会うというのは、もしかすると人類史上ほとんど初めてのことだともいえますよね。大げさでしょうか？

 

辻井　それを言えば、動物が持っている知能も人間が理解できない知能なんです。たとえばセンサーの感覚的な能力というのは、ある種の動物のほうが人間よりもはるかに優れた能力を示したりしているわけで、知能で勝っている、負けていると比較してもあまり意味がないと思うんです。肉体にたとえていうと、いろんな移動体を考えても、自動車もあるし自転車もあるし新幹線もあるし飛行機もある。おのおの違った能力を持っていて、人間はあるところの軸をとるとこれらの移動体に負けるわけですよね。でも非常に柔軟に細かいところを動けるかという話になると、新幹線はもう全く人間には及ばない。そういう運動能力にたとえていうと、違った能力を持った機械はいっぱいあって、人間はそれをうまく使いこなしているわけです。知能についてもそれと同じような話になっているんじゃないかという気がします。

 

桐原　なるほど。身体とは別の能力を持つ機械と協働している日常から見れば、人間の知能とは別の能力を持つAIと協働するというのは決して人類史的なものではないですね。メディアとかジャーナリズムにいると、人間の知能を凌駕するAIがもたらす危機だとか、人類史だとか、どうしても大げさに捉えてしまうのですが、おっしゃる通りですね。

 

辻井　囲碁が典型的だと思うのですが、ある評価軸、特定目的から見た合理性がうまく定義できると、例えば、このゲームに勝てばいいという評価軸が設定されると、強弱は比較できるわけです。それで人間よりも優れた機械が出てくるというのは、ある意味で当然のことかもしれません。人間の知能について、僕らは絶対的なものだと思ってきたけど、人間の脳も生物の進化の過程で偶然にできてきた一つの情報処理装置の形態であって、必ずしも万能ではない。一つの実現形であるというのは確かだけど、それが絶対的なものではないということです。だから、大きなデータからデータに潜む規則性を見つけてくることにかけては、今の計算機のほうがはるかに能力が高くて、人間はそこには及ばない。それを人間がどう使いこなすかという話だと思います。

 

 

AIの知能が、人間の知能をカバーすることはできない

 

桐原　XAIというコンセプトが出てきたのは、このままAIがブラックボックス化していくことに対して、人間の側に恐怖心があることも理由の一つだと思うのですが。

 

辻井　恐怖感や不安はやっぱりあると思います。それはAIに限った話ではなく、非常に複雑なシステムについても同じことが言えます。それが出す結論なり動きが本当にうまくいっているのかどうなのか、我々が分からない状態になってしまうと制御できなくなるわけです。震災の時に原発の問題が露呈しましたが、何か予期せぬことが起こったときにどこをどう触ればうまく制御できるのかが分からなくなっている。そういうものの典型としてAIがあることは確かで、このままいくと制御できなくなるのではないかという不安はあるわけです。ここはAIのほうが得意なので任せましょうと言ったときに、それが出してくる結果を信じられるときにはいいんだけれど、環境が構造的に変わったときにその判断は本当にいいのか悪いのかが分からないという状態が起こると、制御ができなくなるし、環境に合わせてシステムを再調整することも難しくなるという気がするんですね。

 

桐原　現代はAIに限らず、人間の手に負えない事象がたくさん出てきているような気がします。

 

辻井　コロナウイルスもそれに近い話ですよね。データはいろいろ揃っていて、いろんな予測はできるんだけど、ウイルス変種がでて内部の機構が変わってしまうと過去のデータは役に立たなくなる。だから、大きなデータで何かを処理していくことの危険性もあるわけです。データというのはある種の機構を通して出てきていて、僕らが観察できるものになっている。その観察できるデータから内部の計算機構、規則性を推測して知的な判断に使っているわけです。そうすると、データをもともと出している機構そのものが変化すると、本当はそのデータはもう信用できなくなるわけです。機構そのものが変化したときには判断を変えていかないと駄目なわけですが、なぜそのデータが出てくるのかの機構を人間が分かっていないと、データを出してくる背後の機構が変わったときには対処できなくなるわけです。そこでコントロールが効かないということが一番大きな問題だと思います。人間はこれまで科学だとか工学だとか技術を蓄積して、長い歴史のなかで対象を理解してきています。それはデータだけを見てやっているわけではなくて、こういうことが起こっているのではないかという仮説を立てて実験をしデータをとって、また理論をつくりなおすといったことを繰り返してきました。そういう歴史があって、我々は科学や医学の体系をつくってきたわけです。データだけの知能が完全に人間が形作ってきた科学や工学に基づく知能をカバーできるかというと、カバーできないと思います。データをいくら見ていても、我々がつくってきた科学なり技術の体系を計算機だけで再構成することはできない。だからその２つをどうかみ合わせるかということを考えていかざるを得ないでしょう。

→（３）に続く

→（１）を読む