若い研究者に開かれたポスト・ディープラーニングの可能性
――東京大学教授・松原仁氏インタビュー（３）
AIの開発研究はそのまま人を研究し理解することにほかならないとすれば、広げるべき視野は今以上としなければならないだろう。まず、AIという存在を社会にどう位置付けるべきかを考えるなら、宗教観や文化の差異が大きく反映する。また、人の知能がそうであるようにAIが進化するには身体を無視できない。激しさを増すAIの研究開発競争のなかで日本の優位性はどこにあるか。ポスト・ディープラーニングの扉は今まさに開こうとしている。
松原 仁（まつばら ひとし）
1959年、東京生まれ。86年、東京大学大学院情報工学博士課程修了。同年、通産省工業技術院電子技術総合研究所（電総研、現在の産業技術総合研究所）入所。現在、東京大学次世代知能科学研究センター（ＡＩセンター）教授、はこだて未来大学特任教授。ロボカップ日本委員会会長、観光情報学会長、人工知能学会長などを歴任。将棋はアマ５段。著書に『AIに心は宿るのか』（集英社）など。
目次
AIをめぐる宗教観 パートナーかそれとも敵か
桐原 ロボットにも心が宿るという考え方は、見方を変えるととても日本的ですね。物にも心や意思があるというような。大工さんが木と会話する感じで、アニミズム的というか。
松原 そうです。草木にも魂が宿るという考え方ですから、ロボットやAIに心が宿ってもおかしくないと日本人は考えやすいでしょうね。キリスト教では人間は神に似せてつくられた特別な存在であり、それ以外の動物や植物や無機物とは違うんだという考え方です。日本とは「知能観」が異なっていると言えます。
桐原 レイ・カーツワイルの本を読むと、キリスト教的というか、一神教の宗教観がバックボーンにないとこういうことは言わないだろうなという気がします。カーツワイルのいうポストヒューマンは一見、人間を冒涜していて反キリスト教的なようですが、読めば読むほど、進化論に対する敵意のようなものを感じます。本来、神の導きであるはずの生命の進化が近代科学のものになったことに対する反論といいますか。進化は自然の淘汰ではなく、神の次の存在である人間によって行われるべきだというふうにも読めます。神に造られた人の意志が進化を司るのだ、と。カーツワイルに限らず、宗教観や文化の違いがAI研究に大きな影響を与えているようです。
松原 そうです。私は、日本はA Iやロボットになじみやすい国だと思っています。日本は草木にも魂が宿る国ですから、ロボットにも魂が宿ってもいいと思っている。最先端の知能ロボットなんかは、まず日本で普及を目指して問題点を洗い出して、それから欧米やアラブ諸国など宗教観の強いところに持っていくのがうまくいくと思います。ヒューマノイドを普及させるためには、日本ほど実験場にふさわしい国はないと考えています。
桐原 日本人はロボットに好意的ですよね。掃除ロボットのルンバでさえ擬人化して語ることに違和感がない。「うちのルンバが〜」なんてペットかのように言うのもふつうです。
松原 アトムなどのアニメの影響を指摘する人がいますが、鉄腕アトムが日本を代表する漫画になる土壌がそもそも以前からあった、つまりロボットが人間と敵対しないストーリーが受け入れられる文化的土壌があったとみるべきでしょう。欧米の映画は『2001年宇宙の旅』でも『ターミネーター』でも、AIやロボットはどこかで人間とぶつかります。ぶつからないとストーリーが書けないと言ってもいいでしょう。
桐原 反人間という存在を措定しないと物語が発動しないんですね。
松原 日本人はロボットに対してマウント取らなくてもいいんです。仲間でいいじゃないかと考える。欧米人はそういうわけにはいかないんでしょう。そこは日本の強みです。
桐原 となると、シンギュラリティの捉え方も変わってきますね。AIを人類に対する脅威ではなくパートナーとして見ればいい。
松原 日本人はパートナーが賢くなれば嬉しいんです。ところが欧米人には、相手が賢くなったら自分の寝首をかかれるという意識があるんだと思います。今まで、人間は動物を支配し、男性は女性を支配し、白人は黒人を支配してきましたが、それが許されなくなりました。でも、人類が非人類を支配することには誰も意を唱えないので、最後の砦として死守したいのかなと思います。
日本人はAIを単なるツールとして見做せない
桐原 チェスの世界では、IBMのディープ・ブルーに敗北したガルリ・カスパロフが、AIと組んでゲームをする「アドバンスト・チェス」を提唱しています。
松原 実は、あれを将棋でやったらすごい不評でした。私は社会学的な要因だと思っているんですが、どうも、日本人はコンピュータを横に置いてプレイするというのはカンニングしているみたいに思うらしいんです。
桐原 先ほどの日本人はAIをパートナーとして見ることができるという説と反しているようですね。
松原 欧米ではチェスはスポーツで、オリンピック種目にチェスを加えようという運動があるくらいで、「マインドスポーツ」と呼んだりします。日本人は囲碁や将棋を「道」として捉えている。人の道ですから、機械が入ることを嫌がる傾向があるのでしょう。
桐原 欧米ではAIは人の下にあるツールだから、使うのに拒否感がないのではないですか。
松原 確かにそれもあるでしょうね。日本人はAIを単なるツールとして見做せないんでしょう。
桐原 囲碁も中国や韓国ではスポーツ的なアプローチをとって、チームで強化しています。
松原 中国や韓国では囲碁はスポーツですね。チームで育成するしコーチも付きます。選手育成のカリキュラムができていて、上位を選抜していくシステムです。日本は、そうした教育システムを取らないで、天才が現れるのを待っている状況です。将棋は日本だけでやっているからそれでいいけれど、囲碁はそれだと中国や韓国に勝てないんで、育成システムを取り入れはじめましたね。
AIに身体性を持たせる
桐原 現在のAI研究における日本のポジションはどうなんでしょうか？
松原 今回の第3次AIブームはディープラーニングが火をつけたのですが、研究者の知性が競ったというよりは、グループを組んで資源を投入して性能の良いコンピュータを使ったものが勝ちという世界です。日本は経済的に厳しい時期に第３次ブームの波が来てしまったので、資源を注ぎ込むことができませんでした。アメリカはGAFAに代表される民間企業が有り余るお金を研究開発に投資し、中国は国策によって人もお金も投資しています。第2次AIブームのときには日本が一番お金を持っていたので、当時としてはかなりの金額を第５世代コンピュータをはじめとしてさまざまなプロジェクトに注ぎ込んだのですが、当時はコンピュータの能力も限界があったし、インターネットがないのでデータも集まらなかったし、巡り合わせが悪かったですね。
桐原 もう日本が追いつくことは難しいんでしょうか？
松原 AIは研究すべき領域が広いので、全体でいうとアメリカや中国が先行していますが、すべての領域で彼らがトップを取るというわけでもないので、どこかで局地的に勝つことはできる。そこがAIの進化にとって外せないところであれば日本も一定の地位を占めていけると思います。
桐原 まさにお聞きしたいところです。日本が米中に勝負できる領域というのは想定できるのでしょうか？
松原 日本はもともとロボット開発では強いので、ものづくりとAIを結びつけるところに勝機を見出せるかもしれません。知能ロボットをつくることにかけては米中とは遜色ありませんから。
桐原 先生は「AIが身体を持つことで進化する」と書かれていますが、ロボットによってAIの次のブレークスルーも期待できますね。
松原 人間が知能の柔軟性を獲得するうえで重要な役割を果たしているのが「身体という物理的限界」です。AIには有限な身体性がないために、全ての情報が等価になってしまう。フレーム問題を解くためには、身体という限界が必要であると考えています。
桐原 フレーム問題ですね。人間なら誰でもできることがかえってコンピュータにとって難しいというのは、どういう理由からでしょうか。
松原 現在のAIは、行動のアタリをつけることができないのが大きな課題です。よく言われるのが「他人の家に行ってコーヒーを入れることができるか？」というタスクです。人間なら、知らない人の家に行ってもだいたいの間取りが頭に浮かぶし、キッチンにたどり着くのも難しくはありません。コーヒーメーカーも置いてありそうな場所から探します。つまり、そこが自分の家ではなくてもだいたいのアタリをつけて行動することができます。しかしAIは今から行おうとしているタスクに関係のあることだけを周囲の環境から抜き出して認識することができません。これがいわゆるフレーム問題です。
桐原 人間は「なんとなくうまくやっていく」ことができるが、AIにはそれができない。
松原 「なんとなくできる」というのが人間の持つ知能の汎用性であり柔軟性で、AIに欠けている部分です。産業用の特化型ロボットは別として、家庭内で具体的に人間の役に立つ汎用ロボットが現れるまでにはまだ10年20年は必要でしょう。
桐原 なぜ身体を持つことによってAIはフレーム問題を解決できるのでしょうか。
松原 コンピュータが得意なのは、情報をすべて参照することができる「完全情報問題」です。これはもう人間は太刀打ちできません。逆に人間は情報をすべて参照することができない「部分情報問題」を解くことが得意です。知らない家に行ってもコーヒーが沸かせるし、初めて会った人とも世間話をすることができます。そして現実の社会は、部分情報問題ばかりです。私は、AIに部分情報問題を解けるようにするには、身体を与えることが必要だと考えています。
桐原 身体という物理的限界を与えるのですね。
松原 人間は、限られた情報処理能力と物理的能力のなかで、うまく問題を解くという能力を身につけてきました。身体を与えるということは、知能に対して物理的な限界を与えるということです。身体がなく情報処理範囲に限界がないAIは一見、万能なように見えますが、人間のような知性の柔軟性を獲得するには、有限な身体が必要なのです。
桐原 物理的限界を持つAIが学習していくことで、部分情報でも「なんとなくうまくやる」「アタリをつける」知恵が育ってくる。そこまでくるとほとんど子育てと同じですね。
松原 ロボットに人間と同じ方法で問題を解かせようとすれば、人間同様に悩んで成長するというプロセスが必要になるのです。
ビッグデータを必要としないポスト・ディープラーニングの世界
桐原 囲碁AIの開発者である山口佑さんが「テンセントに勝とうと思ったら、マシンパワーでも学習量でも追いつけないから、ディープラーニングに匹敵するようなブレイクスルーがない限りは無理だ」という意味のことをおっしゃっていました。ポスト・ディープラーニングはどういうものになるとお考えですか。
松原 それがわかっていれば苦労はしないのですが（笑） ひとつのヒントとして、2020年の12月にディープマインド社から発表されたAlphaZeroの後継であるMuZero＊に注目しています。論文によれば、MuZeroは将棋でいう駒の動かし方や囲碁でのルールを全く教えないで、勝ち負けの強化学習によってAlphaZeroの強さまで到達したとされています。つまり人間を超えているわけです。しかも学習日数もAlphaZeroより画期的に短いと論文には書いてあります。
桐原 学習日数が少なくて済むということはマシンパワーもそんなに必要ないということですか。
松原 そう理解しています。ちょっとうまく行き過ぎの気もしますが、これまでのディープマインド社の実績からすると疑う余地はないでしょう。これがもしかするとポスト・ディープラーニングなのかもしれません。
桐原 MuZeroはディープラーニングではないんですね。
松原 過去の棋譜データを必要としていないので、ディープラーニングではないでしょう。論文の最後には「人間社会にはルールがよくわからないけれど、評価が決まることが結構ある。そういう問題に適応できる可能性がある」と書かれているんですね。これが本当だとすると、データの多寡によって勝負が決まるディープラーニングの世界を乗り越える可能性が出てきます。
桐原 ビッグデータの量やマシンパワーで勝負しなくてもいいなら、米中以外の研究者にもイノベーションを起こせる可能性が出てきますよね。
松原 今は「たくさんのデータを速いコンピュータで処理する」という装置勝負に負けているだけですから、その条件さえ取り払えれば、アイデア勝負になります。若い研究者たちに期待しています。（終）
＊2016年、Google傘下のDeepMind社が開発した囲碁AI、AlphaGoが、当時世界最強とされた囲碁棋士イ・セドルを破り世界に衝撃をもたらした。ディープラーニングを世に知らしめ、ここから第3次AIブームが始まった。2017年には、人間の棋譜データを使わず、ゲームの戦略に関する知識が文字通り「ゼロ」の状態から学習した囲碁AI、AlphaGo Zeroが登場。そしてAlphaGo Zeroの発表からわずか数カ月後には、囲碁におけるAlphaGoや人類のトッププロどころか、将棋、チェスなどのボードゲームでも既存の最強AIを超えるAlphaZeroが発表された。2020年の12月に発表されたMuZero（ミューゼロ）は、ゲームの戦略に関する知識どころか、そもそもゲームの基本的ルールすら知らない完全な無の状態から学習を行って、AlphaZeroを超える強さに到達したと報告された。MuZeroは、囲碁や将棋、チェスなどの最善手を決定するために必要なゲーム要素のみをモデリングし、そのモデル上でシミュレーションを行うやり方で、ボードゲームのみならず一般的なデジタルゲームでも人間や既存AIを超える強さに至った。なお、MuZeroを開発した論文の筆頭著者Julian Schrittwieser氏は、MuZeroの「Mu」の名前は、日本語の「無（Mu）」「夢（Mu）」という語と、ギリシャ文字の「μ（ミュー、mu）」をかけて着想を得たとしている。具体的には、ゲームに対するルールも戦略も知らない「無」の状態から、未来のゲーム展開を予測し最善手を決定するための「夢」の世界（モデル）を作り出す手法であるという意味を込めているという。
