生成AIブームのなかで、みずから意思決定を行うAGI（Artificial General Intelligence：人工汎用知能）の登場について期待と不安が高まっている。そもそも私たち人間の持っている自由意志や自律性とはなにか――主観と客観、自律と他律を軸に、人間と機械とを分かつものをさぐる第2回。

取材：2024年6月5日　トリプルアイズ会議室にて

 

 

 

西垣通（にしがき とおる） 東京大学大学院情報学環名誉教授。1948年東京生まれ。東京大学工学部計数工学科卒。工学博士（東京大学）。日立製作所でコンピュータ研究開発に従事し、客員研究員としてスタンフォード大学に留学。その後、明治大学教授、東京大学社会科学研究所教授、東京大学大学院情報学環教授、東京経済大学コミュニケーション学部教授を歴任。専攻は情報学、メディア論。基礎情報学の提唱者として知られる。著書として、『デジタル社会の罠』（毎日新聞出版）、『AI原論』（講談社選書メチエ）、『ビッグデータと人工知能』（中公新書）、『ネット社会の「正義」とは何か』（角川選書）、『超デジタル世界』（岩波新書）、『基礎情報学（正・続・新）』（NTT出版）ほか多数。『デジタル・ナルシス』（岩波書店）ではサントリー学芸賞（芸術・文学部門）を受賞した。

 

 

 

サイバネティクスとネオ・サイバネティクス

「知恵の樹」の条件

オートポイエーシス理論における観察者の視点

人間と機械にとって自律性とは何か

 

 

 

 

 

サイバネティクスとネオ・サイバネティクス

 

――サイバネティクスがネオ・サイバネティクスへと転化した経緯を教えてください。

 

西垣　サイバネティクスは生物的な主観にもとづく知を追究しようとしたのですが、ウィーナー自身は数学者であり科学者ですから、当初の古典サイバネティクスはフィードバックによる統計的制御を数理科学的なアプローチから論じました。そうすると、生物が生きるための知といっても、客観世界を前提とする科学技術的なコンピューティング・パラダイムとどうしても重なってくるわけです。

 

――古典サイバネティクスの創始者であるウィーナーの著書“The Human Use of Human Beings（人間の人間としての利用）”が、人間を機械部品として考える工学的な見地に異を唱える意図で書かれたにもかかわらず『人間機械論』という邦題で出版されるような誤解が生じたわけですね。

 

西垣　古典サイバネティクスの大半は、フィードバック制御についての議論です。私自身も工学的制御系を学んできましたから、初読では客観世界を前提とした数理モデルとして読んでいたものです。このようにして、サイバネティクスを「人間をふくめた生物を電子機械と同一視する考え」として捉える通俗的解釈が生まれてしまいました。いまでも“サイバー空間”という言葉が“電脳空間”として解釈されるのも、その名残りといえます。

 

――いまだにコネクショニズムつまりニューラルネットワーク・モデルの源流の一つとして紹介されることがあります。

 

西垣　コンピューティング・パラダイムからはっきり決別して、あくまでも主観にもとづく生物の知を追究した立場がネオ・サイバネティクスです。ここでサイバネティック・バラダイムがはじめて独自の知として明確化されました。ネオ・サイバネティクスという呼称は2019年にブルース・クラークとマーク・ハンセンの編集した“emergence and embodiment”（未訳）で明示されましたが、その内容は1970年ごろから論じられていました。

 

――どのような分野において論じられたのでしょう。

 

西垣　さまざまな分野で学際的に論じられています。例として、主観的な観察行為をさらに観察する二次的観察の視点を示した物理学者のハインツ・フォン・フェルスターのセカンド・オーダー・サイバネティクス、生物学者ウンベルト・マトゥラーナとフランシスコ・ヴァレラのオートポイエーシス理論、社会学者ニクラス・ルーマンの機能的分化社会論、発達心理学者エルンスト・フォン・グレーザーズフェルドのラディカル構成主義、ジークフリート・シュミットの文学システム論などが挙げられます。私たちが構築している基礎情報学もその一環をなしています。

 

――少なくとも日本ではオートポイエーシス理論はルーマン経由で知られたので、人文社会学的なコミュニケーション理論だと誤解されているのかもしれません。スペンサー・ブラウンの『形式の法則』（朝日出版社）は社会学者の大澤真幸さんと宮台真司さんの共訳で出版されました。

 

西垣　私は理系の方面からオートポイエーシス理論を推していましたが、おっしゃるとおり多くの文系の方々が紹介した影響もありました。ネオ・サイバネティクスの立場から個人の内面に着目したグレーザーズフェルドという心理学者はもともと数学者でしたが、コンピュータ言語学の研究を経て、ピアジェの発生的認識論やバークリーの知覚理論をとりこんで、ラディカル構成主義の発達心理学を構築しました。人の心理システムが、いかにオートポイエティックに形成されるかを論じるもので、私も彼の『ラディカル構成主義』（NTT出版）という翻訳書を監修して紹介しました。ドイツではジークフリート・シュミットという文学者がネオ・サイバネティクスの見地から、文学を認知や経験的行為に基づいたシステムとして捉える文学システム論を構築しました。日本では私と同じ研究グループの大井奈美さんが研究を進めています。

 

 

「知恵の樹」の条件

 

――ウンベルト・マトゥラーナとフランシスコ・ヴァレラの業績について教えてください。

 

西垣　ネオ・サイバネティクスの本質をわかりやすく語る啓蒙書として日本で最初に刊行されたのが、オートポイエーシス理論の創始者であるマトゥラーナとヴァレラによる『知恵の樹』（管啓次郎訳、現在ちくま学芸文庫に所収）でした。この本では、生物による主観的な世界認識が明確に示されています。個々の生物は時々刻々、周囲環境を観察して、食物や敵、異性などの生存に有用な対象を「意味や価値のあるもの」として選択的に認識して、動的に主観世界を構成しています。その認識が成功すれば生存をつづけられますし、失敗すれば死が待っていいます。つまり、主観世界は多元的なもので、常に揺らぎつつ更新されているということです。

――“知恵の樹”と聞くと、創世記の“生命の樹”に対置される、ユダヤ・キリスト教的ロゴスのような静的なものを想起してしまいます。

 

西垣　原題の“El Álbol del Conocimiento”というのは、むしろ“認識の木”という意味です。生物がどのように周囲環境を観察し認識しているかを書いているのですね。世界というものは、一元的な真理があってそれに従って出来あがっているわけでなく、多元的な世界がダイナミックに動いているということです。

 

――判断や理解において、なにかの絶対的準拠軸を想定することは不可能だということですね。

 

西垣　たとえば先日、赤信号なのに平気で横断歩道をわたっている人を見かけました。自動車も慌てて急ブレーキをかけて止まっているのですが、その人は平気で歩いています。その人は、主観世界のなかで危険な状態にはいないと思っているのです。しかし私は、その人を観察して危険だと思ってしまう。人間の行為は、観察する自分を観察するという自己準拠的で循環的な観察メカニズムにもとづいているのです。

 

――そこではメタ観察を行う、客観ではない審級が想定されるのでしょうか。

 

西垣　そうなんです。二次観察、つまりセカンド・オーダーの閉じたループがそこに生まれます。あらゆる生物は、自分の観察した結果にもとづいて常に周囲環境を観察して、時々刻々、新たに世界像を構成しつづけているわけです。

 

――浅田彰さんが序文を寄せていることもあって、ポストモダニズム的な価値相対主義のようにも読めます。

 

西垣　1980年代という時代背景もあり、実は私もはじめて『知恵の樹』を読んだときはそのように感じました。その後、同じくマトゥラーナとヴァレラの著書『オートポイエーシス』において、生命の有機構成の精密な理論がひろく知られることになります。『知恵の樹』では、所与の静的な一元的客観世界を正確に認識しようとするコンピューティング・パラダイムと、生物の多元的な主観世界にもとづくネオ・サイバネティクスの世界観との相違が強調されています。

 

 

 

 

 

オートポイエーシス理論における観察者の視点

 

――生命と非生命とのちがいについて、オートポイエーシス理論ではどのようなアプローチがとられたのでしょうか。

 

西垣　1980年に、マトゥラーナとヴァレラは“Autopoiesis and Cognition: the Realization of the living”において循環的・自己準拠的な生物の認識に着目して、生物のシステムとしての特徴を学問的かつ精密に論じました。日本では科学哲学者の河本英夫先生の翻訳で『オートポイエーシス――生命システムとはなにか』（国文社）というタイトルで1991年に刊行されました。生物と機械とが本質的にちがうということは、昔は生気論として論じられていたのですが、それは進化論や分子生物学によって否定され、機械論的・唯物論的な考えかたが支配的になりました。これは、人間は基本的にタンパク質にすぎないとして、人間と機械とを同一視する立場です。しかしオートポイエーシス理論によって、生物と機械は、物質的素材は同じでもシステムとして異なるということが明らかにされたのです。

 

――意識や心の議論においては、よく哲学的ゾンビという思考実験がなされますが、ヴァレラはそれを考えるにあたらない発想として一蹴します。

 

西垣　オートポイエーシス論は、同一視されがちな生物と機械との相違をシステム論として明らかにした記念碑的な思想だったのです。マトゥラーナとヴァレラによると、生物はオートポイエティック・システムであり、機械はアロポイエティック・システムであるとして完璧に峻別される。AIももちろん機械ですから、アロポイエティック・システムに含まれます。ギリシャ語で“auto”は「自己（同一）」という意味で“allo”は「他者 （異質）」という意味です。また“poiesis”は「つくる」という意味ですから、オートポイエティック・システムというのは「自分で自分をつくる存在」のことです。一方、アロポイエティック・システムというのは「他者――人間のことですが――によってつくられる、もしくは他のものをつくる存在」ということになります。つまり、オートポイエティック・システムである生物においては、多くの構成素によるネットワーク自体が、自分という構成素ネットワークによって自己準拠的に産出されるわけです。

 

――ユクスキュルのいうように、それぞれの種が独自の環世界のなかで生きているということですね。トマス・ネーゲルの論でいうと、コウモリの気持ちはコウモリにしかわからない。

 

西垣　コウモリであっても猫であってもゴキブリであっても、他者である私たちには、せいぜい外から観察して習性を学んだり誘導したりする程度のことしかできません。直接操作は不可能なのです。一方、Alのような機械は、表面上いかに自動的に作動しているようにみえても、内部プログラムを書き換えることで、作動に直接介入して操作することが可能です。機械は自己準拠的に世界を観察し構成する閉鎖系ではなく、外部から与えられたプログラムにもとづいて作動する開放系ですから。AIのような複雑な機械では、作動の詳細がわかりにくく操作が難しい場合もありますが、原理的には操作できるよう設計することが可能です。システムのちがいをふまえることなく、複雑さに惑わされてAIに自律性があるなどと考えてはならない理由はそこにあります。

 

――従来のプログラムであれば、ダンプを取ったりしてアルゴリズムをトレースすることができましたが、深層学習以降のAIではそこがブラックボックス化しています。わかりにくさゆえに、そこに自由意思や志向性があるように錯覚してしまうということですね。

 

西垣　仮に、本当に自律性を持って何をしはじめるかわからない機械があったとすると、人間はすべて機械に殺されてしまうかもしれません。たとえ技術的に可能だとしても、人間がそんな存在を多大なコストをかけて実現するでしょうか。

 

――先生の構築する基礎情報学は、そうした誤謬を糺して冷静な議論を喚起する理論でもありますね。

 

西垣　基礎情報学は、オートポイエーシス理論にもとづいて情報概念を基礎から捉えなおす学問です。その実用的な意義は、生命環境の尊重です。コンピューティング・バラダイムにもとづくデジタル技術が支配的ななかで、サイバネティック・パラダイムにもとづく知の適用を促して、人間をはじめとする生物に対する抑圧を防ぎ、生命環境を保持する方途を求めることにあります。

 

 

人間と機械にとって自律性とは何か

 

――そこでは自律性について考えることが重要になりますね。

 

西垣　専門家でも自律性という言葉を軽々しく使いがちです。自律的機械という奇妙な用語をつかう工学専門家は少なくありません。生命環境保持というのは遠大な目標ですが、いま私たちの関心の中心にあるのはデジタル化の促進で人間の自由が損なわれないかという問題なのです。自由というのは、自分の意思にもとづいて自律的に行動できるということですから、ここで「自律性（autonomy）とはなにか」が本質的に問われることになります。人間に自由意思などないと断言する脳科学者もいますが、そうは言っても、多くの人々が自由を求めていることは疑いようがありません。

 

――還元論を追究するあまりに宿命論に陥るという逆説は、よくみられます。

 

西垣　くり返しましょう。オートポイエーシス理論によれば、オートポイエティック・システムである生物は根本的に自律性を持ちますが、機械は他律性（heteronomy）にもとづく存在であり、他者である人間の指示にしたがって作動するものです。これは生物というシステムが閉鎖系で直接操作不可能であるのに対して、機械は開放系で直接操作可能だからです。AIの応用技術であるLAWS （Lethal Autonomous Weapon Systems：自律的致死兵器システム）をはじめ“自律的”と冠せられる機械がありますが、これは一部の作動が自動化しているだけで、いわば疑似自律的な存在にすぎず、エレベーターが自動的に動いているのと変わりありません。本当に自律性を持っていて操作不能な兵器があったら、暴走する危険性があって使いものにならない。そんな機械は私にいわせれば欠陥品であり廃品です。

 

――他律性がなければ、味方である自分たちを襲うことも考えられますし、無作為に人を狙うことだってできてしまいます。

 

西垣　自由についてですが、人間が生物として根本的な自律性を持っているといっても、自分が100パーセント自律的に行動していると思える人はほとんどいないはずです。世の中には法律をはじめとしたさまざまなルールがあって、事実上それに従わなければ生きていけません。たとえば中高生は、理不尽な校則を押しつけられて、役に立つかどうかわからない勉強をさせられて、自分の意思で自由に生きているなんて全然思わないでしょう。私は先ほどカフェに寄ってコーヒーを飲んできましたが、会計でQRコードの提示を求められて、面倒でやりたくないけれど、そろそろスマホ決済で会計しないとまずいのかな、と考えたりもします。そもそも人間は言語的な意味体系のなかで生きていますが、言語的知識の大半はほかの人が決めたもので、それを所与の他律的なものと見なしています。このように人間は、根本的に生物的自律性をもつにもかかわらず、 社会的には他律的に行動せざるをえないという矛盾を抱えています。この矛盾について解き明かすためには、どうすればよいでしょうか。ここで基礎情報学では、自律性と他律性にまたがる階層関係に着目します。これが、HACS（Hierarchical Autonomous Communication System：階層的自律コミュニケーション・システム ）というモデルなのです。

→（３）に続く