慶應義塾大学理工学部教授 栗原 聡氏に聞く
（３）ポスト生成AIの未来とは何か？AGI、自律型AI、日本の可能性
じつは日本にはAIの導入に有利な条件がたくさんある？
AIによって私たち自身が変容することも想定する段階がやってきます。
栗原 EUはサブリミナルやプロパガンダを目的とするAIは言語道断という立場です。その通りだと思います。しかし、私たちが書籍や広告、また人から話を聞いてよい意味で考えかたを変えるというのも、見方を変えれば洗脳です。それほど遠くない将来には、EUも再考しなければならなくなるのだと思います。たとえば日本がそうした社会――AIが人間の考えかたを変えることを一律に禁止にしない社会――だとします。そして、人と共生しつつ国民のメンタリティを自然に変えていったとします。その結果、日本という国が、国民の幸福度が高く経済も成長し犯罪率も大幅に減少したとすれば、周りの国はこれを無視することができなくなるでしょう。ここで重要なのは、我々が無理矢理に思考や行動を変えさせられたと意識するようではダメ、ということなのだと思います。西遊記では、孫悟空が天界の主になろうといくら力を発揮しても、お釈迦様の手のひらの上のできごとだったことが分かってしまいますが、分かってはいけないのです。
日本は、戦後GHQに民主主義化された後に高度経済成長までは成長して、犯罪率も減っている稀有な国ですものね。
栗原 日本には、人権や個の尊重ということを、よくも悪くもあまり言わないですよね。それでいて平和を保っていられるというのは、とてもハッピーなことです。我々日本人はアトムやドラえもんに対して拒否反応を起こさず、自然と受け入れることができるわけですが、これはとても素晴らしいことなのだと思います。
ヨーロッパにはナチスの記憶があり、アメリカの場合には公民権運動があってすごくセンシティブな問題を抱えています。日本にも目を向けるべき問題はあるものの、あたかも問題がないかのようにしてきました。それは決してよいことではありませんが、少なくとも機械を導入する際の大きな留保はありません。しかも少子高齢化により働き手が不足しているものの、経済停滞で賃金を上げることもできない状態です。
栗原 移民を受け入れるか、AI・ロボットを利用するかの2択しかないとしたら、日本は移民受け入れについては苦手かもしれません。そうなるとロボットを導入することになるわけですが、その際、人間と阿吽の呼吸でやりとりできる能動的なAIを使うか、無機質な道具のようなものを使うかということになります。わかりやすくいえば「スター・ウォーズ」のC-3POを使うかR2-D2を使うかということです。C-3POは見てくれは人間に近い形をして人間の言葉を話しますけれど、無機質な翻訳ロボットという設定です。これに対してR2-D2は電子音しか発することができませんが、人と豊かなコミニュケーションがとれてます。欧米ではわかりませんが、私たち日本人は総じてR2-D2を好むだろうと思います。
教育についてはAIが得意とするところですし、高齢者の介護は介護士不足だけでなく介護離職も増えていますから、ロボットの活用を促進するべきだと思います。
栗原 高齢者たちの中にはロボットのほうが、気を使わなくてよいと言う方もいます。それはそれで、少し悲しいことなのかもしれないですが。
異性の介護士に入浴や排泄の介助をしてもらうことに抵抗がある方も多いでしょうし。在宅介護でも老人を常時監視するシステムを普及させようとしていますが、お年寄りもよい気持ちはしないでしょう。
栗原 たしかにお年寄りの気持ちが一番大事です。監視するにしても、当人が意識しないような工夫が必要ですよね。
今後、行動をシミュレートして危険そうなときにアラートを出すことも考えられそうですし、立ち上がることなどを手伝ってくれる介護ロボットがいて、そのロボットがモニターしてくれるとよいかもしれませんね。
人とAIとの共生と相互信頼
先生はユヴァル・ノア・ハラリ『ホモ・デウス』をどう読まれましたか。
栗原 残念ながら人類がそちらの方向に行く懸念は十分にあると思います。私たちは欲望の塊ですから、やはりその方向に向かうでしょうね。もちろん政治や国民性といったことがその度合いを左右する可能性はあるのだとは思います。
今のところAIには欲望がありませんものね。
栗原 私たちも生物ですからもっとも根源的な欲望は生きるということですが、機械にはそれがありません。自律型AIに欲望やモチベーションを植えつけるのは私たちの側です。
私たちは死ぬことが決まっているから、個体や種の保存を欲望として持ちうるわけですよね。
栗原 AIに持続的に動作せよという目的を与えることも可能でしょう。しかし、その解釈が進んでいくと、ターミネーターになってしまうかもしれません。大きな懸念の1つとされているのは、ロボットやAIが自分でコードを書き換えることです。AIが自分でプログラムを書き換えてしまうと、私たちが制御できなくなる可能性があります。しかも、その時点でAIの能力がシンギュラリティのレベルまで上がっていたら、私たちの考えることは、AIにとっては浅知恵にすぎず、私たちの行動はすべて予測できてしまいます。そのようなストーリーのSF映画もありますね。
いまでもWikipediaに大きな信頼を置く人がいるように、AIの判断に大きな信頼を置くことは、生成AIレベルでも起きそうな気がします。
栗原 面白い実験があります。被験者がネットに繋がれていないコンピュータにAIが入っていると説明されます。AIは接続が切れたらシステムダウンしてしまう、自分では動けないから人につないでもらうしかない。そこでこのAIは被験者に、自分をネットに繋いでくれるようお願いするんです。実際にAIが被験者に「繋いでくれたらあなたをお金持ちにしてあげます」などとさまざまに訴えかけると――実際には実験者がAI役をしているのですが――結果的に多くの人がAIのいいなりになって繋いでしまったそうです。
ミルグラムのアイヒマン実験に似ているようにも思えます。人間がAIに服従するような。
栗原 私たちは自律性や能動性を持つものを欲するわけです。なぜなら自分の意図をくみ取って先んじて動いてくれるAIの方が役に立ちますから。用途を限定していればよいのですが、高い汎用性を持つようになると、逆にAIが人間の行動を制御しかねないというわけです。
私たちの欲望も容易に学習されそうですよね。
栗原 なし崩し的にものが進んでいくと、楽観視できない状況も、やはりありえる気がします。
そうはいっても、そこまで発達した自律型AIが、人間を奴隷のように支配するようなことは想像できません。
栗原 支配するということをどう捉えるかにもよりますね。たとえば猫を飼っている人は猫に支配されているわけですし、日本人は稲や麦に支配されている。また私たちはスマートフォンに支配されているともいえます。そう考えると、見方次第だともいえます。
スマートフォンについては、脳を外部化していると考える以上に、そこに依存するシーンは多いですね。
栗原 日本において人と自律型AIの共生社会が日本を豊かにしたとなったら、世界も浮き足立つでしょう。そうなったときに、AIとうまく付き合っている日本がワールド・スタンダードになるかもしれません。
テクノロジーではなく、人とAIのかかわりそのものがイノベーティブになる。
栗原 道具というのは、当然ですが自分の知らないもしくは創造を越えた使い方はできません。そして道具は自分の思い通りに使えなければ道具ではありませんよね。ドラえもんは道具ではなく自ら考えて動くロボットです。そのドラえもんがのび太くんに「それやめなよ」と言えるのは、のび太君がドラえもんを信頼するもう1つの個として捉えているからです。人と自律型AIとの間にこのような信頼関係ができれば、自分にとって都合のよくない情報をもたらした場合にも、自分の役に立つ情報なのかもしれないと、情報摂取のバランスをとることができるのかもしれません。今後はそうしたインタラクションが重要になってくるのだと思います。＜了＞
