知能から生命へ 人工生命の最前線
―東京大学大学院総合文化研究科教授 池上高志氏に聞く（１）
桐原永叔（IT批評編集長）
AIが意識や心を獲得すること、また人間に代わる新たな生命となることについて、まことしやかに語られることは多い。しかしそこで語られる意識や心、生命とは何なのか、人工生命（ALife）を研究する東京大学の池上高志教授に話を聞いた。生命を定義づけるものや、生命を技術にすることなど、興味深いことが次々に語られた。
取材：2023年2月8日 東京大学池上研究室にて
 |
池上 高志（いけがみ たかし） 東京大学大学院総合文化研究科教授。1961年、長野県生まれ。複雑系・人工生命研究。東京大学大学院理学系研究者博士課程終了。理学博士（物理学）。人工生命（ALife）を軸に、ダイナミクスからみた生命理論の構築を目指す。またサイエンスとアートを架橋する作品制作やパフォーマンスも多く手掛ける。著書に『複雑系の進化的シナリオ―生命の発展様式』（朝倉書店 金子邦彦との共著）、『動きが生命をつくる―生命と意識への構成論的アプローチ』（青土社）、『生命のサンドウィッチ理論』（講談社）、『人間と機械のあいだ 心はどこにあるのか』（講談社 石黒浩との共著）など。 |
目次
物理学のアプローチから抽象的に生命を考える
都築 正明（以下、――）まず、ご経歴からお伺いします。
池上高志氏（以下、池上） 長野県諏訪市で生まれ、すぐに東京・名古屋と移り住みました。アメリカなど海外に住んでいたこともありますが、小・中・高と名古屋で、愛知県立旭丘高等学校を卒業後、東京大学に入学しました。
――先生が大学 1 年生のときのエピソードを興味深く読みました。朝永振一郎氏の『スピンはめぐる─成熟期の量子力学』（みすず書房）を読んでいて、量子力学と相対性理論とを統合する際に、スピノールという物質を想定することで相対性量子力学が誕生した、というくだりを読んで、信越本線の座席から立ち上がった、という。
池上 ちょっと大げさですが……まだ実在しないものを通して思考を組み立てることができる、ということに気がついて衝撃を受けました。生命というものを考える、大きなきっかけになりました。
――生命について考えつつも、3 年次からは生物学でなく物理学を専攻されたのですね。
池上 父親は核融合を研究していた物理学者だったのですが「これからは物理よりも生物のほうが絶対に面白い」と、生物学への進学を強く勧められたりもしました。それはあながち間違いでもなくて、相対性理論や量子力学が誕生した 20世紀には物理学がサイエンスの主役でしたが、21 世紀は生物学や情報科学が発展を遂げることになりました。分子生物学が花開く時代でもありましたから、生物学を研究する先輩に話を聞いてみたりもしたのですが、そこでは DNA分子というモノを研究する還元論的な考え方が中心で、生命にリーチすることからは遠く感じられましたし、さほど面白くも思えませんでした。それよりも、当時関心を持っていたフラクタル幾何学やカオス理論などの抽象的なアプローチから生命を考えられないかと思うようになり、物理学の道に進みました。
――先生が物理学を研究されている間の 1990 年にヒトゲノム計画が開始されましたが、そこに関心を持つことはありませんでしたか。
池上 ないですね。ヒトゲノム計画というのは、要するに大きなデータベースをつくることですから。それに、個人のDNAの差のほうが、人間とチンパンジーの違いよりでかい、とか友人もいってましたし。それはまさに複雑系的な観点で。
――複雑系理論が萌芽したのも、そのころと重なりますね。
池上 1992 年に、京都大学で仲間たちとはじめたのが最初です。複雑系科学とは、複雑なものを簡単な方程式で書こうとするのではなく、複雑なものとして、どのように理解するのかを探るアプローチですね。当時京大人文研にいた安冨歩さんとは仲良くしていました。そののち、彼は貨幣の誕生と崩壊についてのシミュレーションなどをしています。
――当時は複雑系理論への期待感が一気に高まった記憶があります。浅田彰さんは、いったんは死を迎えたユークリッド-ニュートン的な数学が、これからフラクタルやカオス理論において蘇生するんだということを言っていました。
池上 浅田さんの言ったとおりだったところもあります。カオスやフラクタルは、新しい見方、わかり方を教えてくれた。「生命は何か」「心は何か」というテーマについては、まずわかり方そのものがわからないとどうにもならない。そういう意味では、今もそれを探っています。
――学部生や大学院生のときは、どのような研究をされていたのでしょう。
池上 カオスなどを研究したいと思い、鈴木増雄※1先生の統計力学の研究室に入ってスピングラス※2の研究をしていました。物質内で電子スピンが空間的な秩序を持つ経緯についてはよく研究されているのですが、スピングラス中の電子スピンは、空間的にはバラバラのように見えるけれど、時間方向には秩序があるのではないか、ということです。このスピングラスの理論研究がジョルジョ・パリージ※3の２年前のノーベル物理学賞のひとつの受賞理由となっています。当時の私の興味は、スティーブン・ウルフラム※4が考えた一次元セル・オートマトン※5の研究にありました。
――ライフゲーム※6に代表されるシミュレーション・モデルですね。
池上 もっとも打ち込んだのは、ニューラルネットワークの研究で、またノーマン・パッカード※7の影響を受けて、免疫ネットワークの理論研究もしていました。あれを続けていれば、今ごろはノーベル医学・生理学賞を獲得できるような理論的ベースをつくれたかもしれないですけれど……冗談ですが。
――もっと生命活動に近い分野に関心を抱かれたということでしょうか。
池上 はい。当時研究されていた脳神経細胞の考え方から、人間の自己／非自己の境界が神経細胞ネットワークの性質だとすると、多くの生物の場合は、精神的ではなく物質的な自己／非自己の境界があるだろうと考えました。生物の拒絶反応は免疫のネットワークがつくっていますから。免疫ネットワークにおける物質の自己／非自己というのが、どう生み出されるものなのか、もしくはフレキシブルなものなのかを知りたいなと思い、化学反応ネットワークの性質を、認知のダイナミクスとして調べていました。
――免疫系というのは、生物が恒常性を保つために用いられますね。
池上 おっしゃるとおりで、免疫のホメオスタティックなところに興味がありました。たとえばホヤは自分以外のものとは接合するけれど、自分と同じものには拒絶反応を示します。こうした原始的な生物にも自己／非自己があると考えられるんです。
――私たちは、自己というものを特権的なものとして捉えがちだけれど、単純な生物にも自己があるということですね。
池上 自己ができることが生命のはじまりであるならば、その理論化は非常に抽象的に始められるのではないか。そこがALife（Artificial Life：人工生命）の研究へつながるところです。
※1 鈴木増雄（1937 – ）理学博士。主な研究分野は統計物理学、物理数学。1998 年紫綬褒章賞受賞。
※2 スピングラス：非磁性の金属に不純物として磁性体が混ざり、磁性体の電子スピンが乱雑なまま固まった物質。
※3 ジョルジョ・パリージ（Giorgio Parisi、1948 – ） 理論物理学者。2021年「原子から惑星のスケールまでの物理システムの無秩序と変動の相互作用の発見」の業績でノーベル物理学賞受賞（真鍋淑郎、クラウス・ハッセルマンと共同受賞）
※4 スティーブン・ウルフラム（Stephen Wolfram、1959年-） 理論物理学者、複雑系研究の学術センター米ウルフラム・リサーチ社CEO。数式処理システム Mathematica 開発者としても著名。
※5 セル・オートマトン（cellular automaton） 空間に格子状に敷き詰められた多数のセルが、近隣のセルと相互作用をする中で自らの状態を時間的に変化させていく自動機械（オートマトン）。
※6 ライフゲーム （Conway’s Game of Life） 1970 年にイギリスの数学者ジョン・ホートン・コンウェイ （John Horton Conway） が考案したシミュレーションゲーム。誕生・生存・過疎・過密のルールに基づいて生命の誕生・進化・淘汰のプロセスを再現した、セル・オートマトンの代表例。
※7 ノーマン・パッカード（Norman Harry Packard、1954年-） 理論物理学者。カオス理論、複雑系、人工生命への貢献で知られている。秩序がカオスに移る境界「カオスの縁」の名付け親。ドアン・ファーマーとともに複雑系理論をもとに金融市場に挑む『マネーゲームの予言者たち』（徳間書店、トマス・バス著・栗原百代約）の登場人物としても知られる。
ChatGPTの登場から見えてくるもの
――「IT批評」では、AIを軸にさまざまな方にインタビューをしています。人間の脳をシミュレートしたAIが発展すれば、意識や心が生まれるのではないかと考える方も多くいらっしゃいます。一方、脳だけでなく身体でも考えているというのが認知科学の常識ですし、心や意識の作用が情報処理だけであるとも考えづらいです。
池上 私は 5 年ほど前に株式会社オルタナティブ・マシーンという会社を立ち上げました。ここでは生命を技術にする研究開発を行っています。生命の何を技術にするか。それは、自律性（autonomy）です。自律性は意識や心にとって重要な要素です。逆にいえばAIが意識や心を持つということは、自律的なものがニューラル・ネットワークの上に立ち上がるということです。
――ネットワーク上のプログラムが、自分で動きはじめるようなイメージでしょうか。
池上 神経細胞は入力がなくても興奮し信号を送ります。現在のディープ・ニューラルネットワーク上で、ひとりでにプログラムが立ち上がるようなアルゴリズムを組むことは可能ですが、そういうことは起こらないように設計されています。すると、何も入力していないときには、何も起こらない。しかし人間の脳は、なにも興奮してない状態というのは存在しませんから、そこが根本的に違います。ですから今のディープ・ニューラルネットワークをいくら研究しても、脳の自発発火のようなものを扱えないと、意識は生まれないと思います。
――なるほど。
池上 一方で、ChatGPTの登場は画期的です。従来、AIは単語の意味を扱わないことがネックとされていましたが、ChatGPTのベースとなっているGTPというニューラルネットワークでは、単語の意味を学習させるのでなく、次にどのような単語を続けるかを予測することに重点を置きました。その上で数十兆語規模の言語コーパスで事前学習をさせたら、プログラムも書けるし、質問にも答えられるようになった。自然言語のやりとりがスムーズにできることに、多くの人が衝撃を受けたのが、今年に入ってから数か月のできごとです。面白いのは、それほど多くのことを設定しなくても、フレキシブルな答えが返ってくるということです。
――そう考えると、ある種の自律性については達成できているといえるでしょうか。
池上 意識といってよいかどうかは置いておくとしても、フレキシブルな答えを返す自律性は持っているといえます。生命という観点からは、中核になりえる技術だと思います。
――ChatGPTに関しては、脅威を言い立てたり、逆に成果を低く見積もったりという反応も多くありました。
池上 自律的であるということは人間の手を離れているということですから、システムがより合理的に考えられるのであれば、人間の意図を拒絶して、正しい方向に動くことは十分ありえます。悪いことをしているという自覚が強い人にとっては不都合ですよね。
心は外からやってくる──相互交換する心
桐原 永叔（以下、桐原） それが知性や知能というもののイメージなのか、人工知能については多くの人が永遠性や普遍性を得ることを理想としているようにみえます。一方で、これが人工生命となると、生命らしさはそもそもその有限性、個別性にあるともいえますよね。
池上 AIは、少なくともこれまで、ひとの道具の延長としてとどまって、道具が自分の意思や自分の欲を持たれては困ると考えているんですね。鳥を見て飛行機をつくるAIは、鳥の翼を参考にしたりしたうえで、それを最適化してより速く飛ぶものをつくったりする。一方、ALifeのような発想でつくった飛行機は、鳥そのもののような飛行機で、お腹が空いたら途中で餌を食べに行ってしまうし、調子が悪かったら休んでしまいます。それが欲求や意図を持つということですから、そんな不便な飛行機は使えないと思う。でも、とても重要なことが １つあります。飛行機は落ちるけれど、鳥は落ちないということです。鳥は自己保存能力が強いから、お腹がすいたら食べるし、疲れたら休む。飛行機にそのような賢さを求めるとなると、それは生命性を求めることになります。だから生命の技術が必要なんです。
桐原 有限であるがゆえに生命が求める時間秩序が、倫理・道徳と深く関係するように思います。
池上 タフツ大学にいる友人のマティウス・シュルツが、ある星にロボットと一緒に行って鉱物を採取して地球に戻ってくるという仮想実験の話をしてくれたことがあります。そのときに、ロボットが常にひとの命令だけを聞くロボットと働いた場合と、自分の燃料も気にするロボットと働いた場合では、自分の燃料を気にするロボットのほうが、共同作業の効率が上がったそうです。人間の同情や共感といった感情があったほうが実は時間効率がよくて、道具として考えると、とにかく早くすませようとするだけでかえって時間効率は悪くなった。
――有限の時間を合理的に使うために同情や共感といった倫理観が機能しているようですね。同情や共感は対象なしに内発してくるのではなく相手があって生まれるものですし。
池上 私はオフローデッド・エージェンシー（Offloaded Agency）とかオフローデッド・マインドというように、意識は外からやってくるものであるという説をとっています。インドにオオカミに育てられた女の子の例がありますが、心というものが内在的につくられるものであれば、彼女はオオカミの心を持たなかったはずです。言語についても、アメリカで生まれれば英語が母国語になるし、日本に生まれたら日本語が母国語になります。脳というのは、どのような言語でも母国語とする装置があるだけで、どの言語を母国語にするのかは、あらかじめ決まっているわけではありません。私は、言語だけでなく意識もそうだろうと考えています。ある心を受け入れる準備はしているけど、まず心があるわけではない。生まれたときにお母さんからコピーされるのではなく、お母さんの真似をしているうちに、お母さんの心がコピーされて心ができあがってくるのだと思います。
――赤ちゃんもはじめは最小限の動きのセットがありますが、真似をしていくうちに社会的な動きを身につけます。
池上 お母さんが笑うと子どもも笑って、筋肉の動かし方などを介して、ハッピーであるとはどういうことなのかを獲得します。そうしたコンポーネントが心をつくるのだと思います。こうしたチャネルがあるので、人と話していると相手の心が自分に入り、自分の心が相手に入り、というように、相互に交換されているのだと思います。現在のChatGPTにはそれがありませんから、心があるとは考えづらいです。昨年、GPT-3 を2つと私との3者で、リアルタイムで会話するパフォーマンスをしました。いろいろなことを試したのですが、GPT-3どうしの会話は、あるコンテクストから出ないことがわかりました。人間であれば飽きてきたりしますが、そういうことがないんです。学生と話しているときには、会話によるクリエイティビティが生まれることを実感しますが、GPT-3同士を見ているとそれがありません。私は会話においては新しいものが生まれるかどうかが重要なことだと思いますから、あるコンテクストやフレームから外に出られないのは、大きな欠点だと思います。
――社会性とか間主観性に関わってくることですね。
池上 GPT-3は、言葉を滑らかに繋げることを重視したメカニズムですから、相手の考えに対して別の考えを述べる、ということはあまりしないように思えます。とても優秀な助手で、こちらの言うとおりにプログラムを組めますし、もう少しステップを増やすように指示すれば、そのとおりにしてくれます。しかし、論文やレポートの要約をしてもらうと、滑らかさを優先して嘘のリファレンスを出してくることがあります。ChatGPTにつづいてGoogleが「Bard」というGPTを発表したように、この分野については、これから数か月の間にまたいろいろな変化があると思います。
