東京大学大学院総合文化研究科教授　池上高志氏に聞く
（１）知能から生命へ人工生命の最前線

ChatGPTの登場から見えてくるもの

「IT批評」では、AIを軸にさまざまな方にインタビューをしています。人間の脳をシミュレートしたAIが発展すれば、意識や心が生まれるのではないかと考える方も多くいらっしゃいます。一方、脳だけでなく身体でも考えているというのが認知科学の常識ですし、心や意識の作用が情報処理だけであるとも考えづらいです。

池上　私は 5 年ほど前に株式会社オルタナティブ・マシーンという会社を立ち上げました。ここでは生命を技術にする研究開発を行っています。生命の何を技術にするか。それは、自律性（autonomy）です。自律性は意識や心にとって重要な要素です。逆にいえばAIが意識や心を持つということは、自律的なものがニューラル・ネットワークの上に立ち上がるということです。

ネットワーク上のプログラムが、自分で動きはじめるようなイメージでしょうか。

池上　神経細胞は入力がなくても興奮し信号を送ります。現在のディープ・ニューラルネットワーク上で、ひとりでにプログラムが立ち上がるようなアルゴリズムを組むことは可能ですが、そういうことは起こらないように設計されています。すると、何も入力していないときには、何も起こらない。しかし人間の脳は、なにも興奮してない状態というのは存在しませんから、そこが根本的に違います。ですから今のディープ・ニューラルネットワークをいくら研究しても、脳の自発発火のようなものを扱えないと、意識は生まれないと思います。

なるほど。

池上　一方で、ChatGPTの登場は画期的です。従来、AIは単語の意味を扱わないことがネックとされていましたが、ChatGPTのベースとなっているGTPというニューラルネットワークでは、単語の意味を学習させるのでなく、次にどのような単語を続けるかを予測することに重点を置きました。その上で数十兆語規模の言語コーパスで事前学習をさせたら、プログラムも書けるし、質問にも答えられるようになった。自然言語のやりとりがスムーズにできることに、多くの人が衝撃を受けたのが、今年に入ってから数か月のできごとです。面白いのは、それほど多くのことを設定しなくても、フレキシブルな答えが返ってくるということです。

そう考えると、ある種の自律性については達成できているといえるでしょうか。

池上　意識といってよいかどうかは置いておくとしても、フレキシブルな答えを返す自律性は持っているといえます。生命という観点からは、中核になりえる技術だと思います。

ChatGPTに関しては、脅威を言い立てたり、逆に成果を低く見積もったりという反応も多くありました。

池上　自律的であるということは人間の手を離れているということですから、システムがより合理的に考えられるのであれば、人間の意図を拒絶して、正しい方向に動くことは十分ありえます。悪いことをしているという自覚が強い人にとっては不都合ですよね。