東京大学大学院総合文化研究科教授　池上 高志氏に聞く
（３）フレームを壊し、ルールをアップデートする

人間という進化のボトルネック

事後的なものにすぎないデータから何かが立ち上がるというのもアフォーダンス的です。

池上　2010 年ごろに科学の認識論の革命があったと考えています。それまでは科学は、データが少なかったから、全体像を理解するのにストーリーテリングという方法しかありませんでした。しかし、データの量が膨大になると薄っぺらなストーリーをつくってもリアリティが伴わないし、ストーリーが恣意的に思えてしまう。そうすると、複雑なものを複雑なものとして理解する複雑系の科学の考え方がいまこそ必要になってきます。複雑さのレベルを落とさなければストーリーはできない――それはそうですが、人がなぜレベルを落とすかといえば、ただ自分のストーリーに合わないという理由でしかないのです。その意味でデータというのはもとの現象から取り出したものではあるけれど、とてつもなく複雑な現象を背後に抱えている。

先生のおっしゃる「マッシブ・データフロー」というのはそういうことですね。データは静的な記述としてでなく、そこに動的なものがある。

池上　そうです。マッシブ・データフローは、ひとつの説明には落とせないような、多種多様なものがあります。ChatGPTは、まさに複雑な5兆個以上のコーパス、2,000億個近い結合をもつニューラルネットで学習している。その結果ChatGPTは人間には、意識を持つように見えてしまったりもする。

ChatGPTに帝王学のような学習をさせれば、冷徹な命令を下すディープフェイクができてしまうかもしれません。

池上　それは十分に可能です。ただし、これまでの独裁者や犯罪者は人間のなかから生まれてきたわけですから、それがAIに置き換わるだけともいえます。AIを怖がるのは人間を怖がるのと同じことです。

桐原 永叔（以下、桐原）たしかにAIを怖がるのも、擬人化のトラップですね。松尾豊¹先生は、身体性を持たせることがAIの最後の進化だとおっしゃっています。

池上　いま知る生命に近づけたい、という意味ではそうでしょう。生命とは自律性のことであり、その意味で、自律性をもったシステムが、人間の社会にどう影響を与えるかを知りたいです。人間も生態系の一部だと考えていますから、AIも人も含めた全体のガイアがどう進化するかに興味がある。単にAIを進化させることに意味があるかどうかは疑問です。

桐原　松尾先生はセンサーやハプティクスには小型のモーターなどが必要で、AIに身体を持たせようとすることに日本の工業が発展を遂げるチャンスがあるのではないかとおっしゃってました。日本に受け継がれてきたテクノロジーで世界にプレゼンスを示そうという。

池上　産業がいまより発達して、いまより生活が便利になる必要はないと思います。もう十分に便利じゃないですか。ローマ時代の市民が数学や物理をしていたというのは素晴らしいですよ。それが奴隷制度によって支えられたという側面はありますけれど。

仕事はAIにさせて、人間はベーシックインカムで生活するというユートピアも描かれがちですが、そのとき人間が何をするかと考えると……。

池上　何もすることがなくなると思います。技術が進歩しても、ろくなことがありません。人間がある側面では進化のボトルネックになっているということに、みんな気づくべきだと思います。

そこから目を背けたいので、シンギュラリティを恐れたりするわけですよね。

池上　そうですよ。人間のためになにか、と言う議論はつねに矛盾をはらみ、一方で生命進化から考えると、人間の存在は大事なのか、という疑問は避けて通れません。