東京大学名誉教授 西垣通氏に聞く
第２回 生命の自律性を示すネオ・サイバネティクスの世界観

「オートポイエーシス理論における観察者の視点

生命と非生命とのちがいについて、オートポイエーシス理論ではどのようなアプローチがとられたのでしょうか。

西垣　1980年に、マトゥラーナとヴァレラは“Autopoiesis and Cognition: the Realization of the living”において循環的・自己準拠的な生物の認識に着目して、生物のシステムとしての特徴を学問的かつ精密に論じました。日本では科学哲学者の河本英夫先生の翻訳で『オートポイエーシス――生命システムとはなにか』（国文社）というタイトルで1991年に刊行されました。生物と機械とが本質的にちがうということは、昔は生気論として論じられていたのですが、それは進化論や分子生物学によって否定され、機械論的・唯物論的な考えかたが支配的になりました。これは、人間は基本的にタンパク質にすぎないとして、人間と機械とを同一視する立場です。しかしオートポイエーシス理論によって、生物と機械は、物質的素材は同じでもシステムとして異なるということが明らかにされたのです。

意識や心の議論においては、よく哲学的ゾンビという思考実験がなされますが、ヴァレラはそれを考えるにあたらない発想として一蹴します。

西垣　オートポイエーシス論は、同一視されがちな生物と機械との相違をシステム論として明らかにした記念碑的な思想だったのです。マトゥラーナとヴァレラによると、生物はオートポイエティック・システムであり、機械はアロポイエティック・システムであるとして完璧に峻別される。AIももちろん機械ですから、アロポイエティック・システムに含まれます。ギリシャ語で“auto”は「自己（同一）」という意味で“allo”は「他者 （異質）」という意味です。また“poiesis”は「つくる」という意味ですから、オートポイエティック・システムというのは「自分で自分をつくる存在」のことです。一方、アロポイエティック・システムというのは「他者――人間のことですが――によってつくられる、もしくは他のものをつくる存在」ということになります。つまり、オートポイエティック・システムである生物においては、多くの構成素によるネットワーク自体が、自分という構成素ネットワークによって自己準拠的に産出されるわけです。

ユクスキュルのいうように、それぞれの種が独自の環世界のなかで生きているということですね。トマス・ネーゲルの論でいうと、コウモリの気持ちはコウモリにしかわからない。

西垣　コウモリであっても猫であってもゴキブリであっても、他者である私たちには、せいぜい外から観察して習性を学んだり誘導したりする程度のことしかできません。直接操作は不可能なのです。一方、Alのような機械は、表面上いかに自動的に作動しているようにみえても、内部プログラムを書き換えることで、作動に直接介入して操作することが可能です。機械は自己準拠的に世界を観察し構成する閉鎖系ではなく、外部から与えられたプログラムにもとづいて作動する開放系ですから。AIのような複雑な機械では、作動の詳細がわかりにくく操作が難しい場合もありますが、原理的には操作できるよう設計することが可能です。システムのちがいをふまえることなく、複雑さに惑わされてAIに自律性があるなどと考えてはならない理由はそこにあります。

従来のプログラムであれば、ダンプを取ったりしてアルゴリズムをトレースすることができましたが、深層学習以降のAIではそこがブラックボックス化しています。わかりにくさゆえに、そこに自由意思や志向性があるように錯覚してしまうということですね。

西垣　仮に、本当に自律性を持って何をしはじめるかわからない機械があったとすると、人間はすべて機械に殺されてしまうかもしれません。たとえ技術的に可能だとしても、人間がそんな存在を多大なコストをかけて実現するでしょうか。

先生の構築する基礎情報学は、そうした誤謬を糺して冷静な議論を喚起する理論でもありますね。

西垣　基礎情報学は、オートポイエーシス理論にもとづいて情報概念を基礎から捉えなおす学問です。その実用的な意義は、生命環境の尊重です。コンピューティング・バラダイムにもとづくデジタル技術が支配的ななかで、サイバネティック・パラダイムにもとづく知の適用を促して、人間をはじめとする生物に対する抑圧を防ぎ、生命環境を保持する方途を求めることにあります。

「人間と機械にとって自律性とは何か

そこでは自律性について考えることが重要になりますね。

西垣　専門家でも自律性という言葉を軽々しく使いがちです。自律的機械という奇妙な用語をつかう工学専門家は少なくありません。生命環境保持というのは遠大な目標ですが、いま私たちの関心の中心にあるのはデジタル化の促進で人間の自由が損なわれないかという問題なのです。自由というのは、自分の意思にもとづいて自律的に行動できるということですから、ここで「自律性（autonomy）とはなにか」が本質的に問われることになります。人間に自由意思などないと断言する脳科学者もいますが、そうは言っても、多くの人々が自由を求めていることは疑いようがありません。

還元論を追究するあまりに宿命論に陥るという逆説は、よくみられます。

西垣　くり返しましょう。オートポイエーシス理論によれば、オートポイエティック・システムである生物は根本的に自律性を持ちますが、機械は他律性（heteronomy）にもとづく存在であり、他者である人間の指示にしたがって作動するものです。これは生物というシステムが閉鎖系で直接操作不可能であるのに対して、機械は開放系で直接操作可能だからです。AIの応用技術であるLAWS （Lethal Autonomous Weapon Systems：自律的致死兵器システム）をはじめ“自律的”と冠せられる機械がありますが、これは一部の作動が自動化しているだけで、いわば疑似自律的な存在にすぎず、エレベーターが自動的に動いているのと変わりありません。本当に自律性を持っていて操作不能な兵器があったら、暴走する危険性があって使いものにならない。そんな機械は私にいわせれば欠陥品であり廃品です。

他律性がなければ、味方である自分たちを襲うことも考えられますし、無作為に人を狙うことだってできてしまいます。

西垣　自由についてですが、人間が生物として根本的な自律性を持っているといっても、自分が100パーセント自律的に行動していると思える人はほとんどいないはずです。世の中には法律をはじめとしたさまざまなルールがあって、事実上それに従わなければ生きていけません。たとえば中高生は、理不尽な校則を押しつけられて、役に立つかどうかわからない勉強をさせられて、自分の意思で自由に生きているなんて全然思わないでしょう。私は先ほどカフェに寄ってコーヒーを飲んできましたが、会計でQRコードの提示を求められて、面倒でやりたくないけれど、そろそろスマホ決済で会計しないとまずいのかな、と考えたりもします。そもそも人間は言語的な意味体系のなかで生きていますが、言語的知識の大半はほかの人が決めたもので、それを所与の他律的なものと見なしています。このように人間は、根本的に生物的自律性をもつにもかかわらず、 社会的には他律的に行動せざるをえないという矛盾を抱えています。この矛盾について解き明かすためには、どうすればよいでしょうか。ここで基礎情報学では、自律性と他律性にまたがる階層関係に着目します。これが、HACS（Hierarchical Autonomous Communication System：階層的自律コミュニケーション・システム ）というモデルなのです。