国立研究開発法人産業技術総合研究所 人工知能研究センター長　辻井潤一氏に聞く
（２）AIが持つブラックボックス性の解決が次の大きな課題

勝ち負けや優劣をいっても仕方がない

桐原　お話をお聞きして、私も思い出していることがあります。DeepMindのAlphaGoがイ・セドルに最初に勝ったときの対局。中継を見ていたプロ棋士の多くが「こんなメチャクチャな手を打つなんて、やっぱりAIは何も分かってないね」と考えたそうです。ところが大逆転が起きてAlphaGoが勝利しました。人間には理解できない知能が出現した瞬間は、まさにそこなのかなと思っていて非常に象徴的な出来事として捉えています。

辻井　僕らは「知能」とひとまとめに言い表しますけど、実は知能にはいろんなファセットがあって、いろんな能力の集合体だと思います。たとえば、空間的な把握能力とか言語能力だとか数を操る能力だとか、いろんな違った能力の組み合わせで知能はできているわけです。それをうまくかみ合わせて知能を１次元的な軸に落とし込んで知能指数がいくらだとかというふうにいうわけです。ところが、全く基盤が違う知能が出てくると「知能」という言葉で一次元的に並べて優劣を比較すること自体が無意味になってきていると思います。AIと人間では、かなり違ったディメンジョン（次元）を持った知能体だから、どちらが勝つとか負けるとか優れているとか優れていないといっても仕方がなくて、それをどう組み合わせるかということを考えていかざるを得ないんじゃないかと考えています。

桐原　人間が、人間以外の人間には理解できない知能に出会うというのは、もしかすると人類史上ほとんど初めてのことだともいえますよね。大げさでしょうか？

辻井　それを言えば、動物が持っている知能も人間が理解できない知能なんです。たとえばセンサーの感覚的な能力というのは、ある種の動物のほうが人間よりもはるかに優れた能力を示したりしているわけで、知能で勝っている、負けていると比較してもあまり意味がないと思うんです。肉体にたとえていうと、いろんな移動体を考えても、自動車もあるし自転車もあるし新幹線もあるし飛行機もある。おのおの違った能力を持っていて、人間はあるところの軸をとるとこれらの移動体に負けるわけですよね。でも非常に柔軟に細かいところを動けるかという話になると、新幹線はもう全く人間には及ばない。そういう運動能力にたとえていうと、違った能力を持った機械はいっぱいあって、人間はそれをうまく使いこなしているわけです。知能についてもそれと同じような話になっているんじゃないかという気がします。

桐原　なるほど。身体とは別の能力を持つ機械と協働している日常から見れば、人間の知能とは別の能力を持つAIと協働するというのは決して人類史的なものではないですね。メディアとかジャーナリズムにいると、人間の知能を凌駕するAIがもたらす危機だとか、人類史だとか、どうしても大げさに捉えてしまうのですが、おっしゃる通りですね。

辻井　囲碁が典型的だと思うのですが、ある評価軸、特定目的から見た合理性がうまく定義できると、例えば、このゲームに勝てばいいという評価軸が設定されると、強弱は比較できるわけです。それで人間よりも優れた機械が出てくるというのは、ある意味で当然のことかもしれません。人間の知能について、僕らは絶対的なものだと思ってきたけど、人間の脳も生物の進化の過程で偶然にできてきた一つの情報処理装置の形態であって、必ずしも万能ではない。一つの実現形であるというのは確かだけど、それが絶対的なものではないということです。だから、大きなデータからデータに潜む規則性を見つけてくることにかけては、今の計算機のほうがはるかに能力が高くて、人間はそこには及ばない。それを人間がどう使いこなすかという話だと思います。