東京大学名誉教授 西垣通氏に聞く
第３回 基礎情報学の視座からみえる人間とAIの未来像
桐原永叔（IT批評編集長）
西垣通氏へのインタビュー第3回では、HACSモデルや情報の3層モデルなど、基礎情報学の核心へと話が及んだ。そこからみえてきたものは、私たち人間こそが克服すべき課題、そして日本の目指すべきAIテクノロジーの方途だった。困難と指針を同時に突きつける、示唆に満ちた最終回。
西垣通（にしがき とおる）
東京大学大学院情報学環名誉教授。1948年東京生まれ。東京大学工学部計数工学科卒。工学博士（東京大学）。日立製作所でコンピュータ研究開発に従事し、客員研究員としてスタンフォード大学に留学。その後、明治大学教授、東京大学社会科学研究所教授、東京大学大学院情報学環教授、東京経済大学コミュニケーション学部教授を歴任。専攻は情報学、メディア論。基礎情報学の提唱者として知られる。著書として、『デジタル社会の罠』（毎日新聞出版）、『AI原論』（講談社選書メチエ）、『ビッグデータと人工知能』（中公新書）、『ネット社会の「正義」とは何か』（角川選書）、『超デジタル世界』（岩波新書）、『基礎情報学（生・続・新）』（NTT出版）ほか多数。『デジタル・ナルシス』（岩波書店）ではサントリー学芸賞（芸術・文学部門）を受賞した。
目次
階層的自律コミュニケーション・システム （HACS）とはなにか
自律と他律の矛盾を、どのように理解すればよいのでしょう。
西垣 ここで大切になってくるのは、情報伝達についてです。オートポイエティック・システムは閉鎖系ですから、理論上は異なる生物個体どうしで直接の情報伝達はできません。電子メールでラブレターを送ってもなかなか気持ちが伝わらないような経験は、誰にもあるでしょう。しかし情報伝達をきちんと定義できないと、サイバネティック・パラダイムのもとでデジタル情報社会のテーマを扱うことは不可能になってしまいます。
情報伝達をきちんととらえないと、私たちの社会的な側面を語ることができなくなります。
西垣 理論的にいうとオートポイエティック・システムは他のオートポイエティック・システムの構成素にはなれませんから、自律的な社会のなかで個々の人間はその構成素になれず、したがって自律的にはなりえなくなってしまいます。この矛盾については、ネオ・サイバネティシャンの間でもさまざまな論争がありました。この難問をある意味で解決したのがニクラス・ルーマンです。ルーマンの機能的分化社会論においては、コミュニケーションを構成素として捉え、個人だけでなく社会もオートポイエティック・システムとして自律性をもちうるとされます。しかし、そこでは社会システムと個々人の心的システムが対等なものとして位置づけられます。経済や政治、教育や法などの多種多様な機能システムがそれぞれ独自の論理にしたがって社会を構成しているというわけです。そうすると、各々の社会システムと個々人の心的システムとの関係数は天文学的な数字になり、きわめて複雑化して総合的な分析が困難になります。
モデルとしては成立するものの、社会は多様性に満ちているという結論で終わってしまう。
西垣 この困難を解決するものとして私が提唱するのが、基礎情報学の中心概念であるHACS（Hierarchical Autonomous Communication System：階層的自律コミュニケーション・システム ）なのです。従来のオートポイエーシス理論では、各オートポイエティック・システムは互いに独立で対等なのですが、その間に階層関係を導入するのがHACSモデルの特徴です。HACSモデルにおいては、一般に個々人の心的システムはその所属する社会システムの下位に位置づけられます。社会システムは、メンバーの言動を素材としたコミュニケーションを構成素とするオートポイエティック・システムです。一方メンバーである個人の心的システムも、それぞれ自分の思考を構成素とするオートポイエティック・システムとして、ともに自律性を持っています。しかし上位にある社会システムからみると、個々のメンバーはコミュニケーションの素材を提供する他律的なアロポイエティックな存在となります。またメンバー個人からみると、社会は自然と同じく一種の環境として立ち現れて、個人の言動に一定の制約が加えられることになります。
個人が自律的にみえるレイヤーと、他律的にみえるレイヤーとの2つの視点を想定するという理解でよろしいですか。
西垣 そう捉えることで、さまざまなことを理解できるというのが私の考えかたです。典型例として、会社とその社員のオートポイエティック・システムを挙げてみましょう。会社の会議において、社員は生物的自律性を持っていますから、心の中ではどんなことでも考えられます。頭のなかで「つまらないことを議論しているな。そういえば次の週末にはどこに行こうかな」と考えていてもよいわけです。ただし会議中に声に出してよいのは議事内容に関連した発言だけですから、これが制約になります。しかし、個人にとって会社が環境のようなものだとはいっても、会議で「拡販議論の途中ですが、その商品自体、もう時代に合っていませんよ」と発言することはできます。コミュニケーションによって、ボトムアップ的に上位の階層にはたらきかけることは可能なわけですね。もっと大きい価値観の変化も少しずつ引き起せます。若い女性社員より年長の男性社員に多くの発言機会を与えるという従来の慣習が人々の価値観の変化とともに廃れて、参加メンバーの誰もが平等に発言できるようになるかもしれません。このように下位のオートボイエテイック・システムの作動が、長期的には上位のオートポイエティック・システムの作動に影響を与えることもあるわけです。
生命情報・社会情報・機械情報
HACSモデルが導入されることで、個人と社会の間におけるコミュニケーションの非対称性についても明らかになるわけですね。
西垣 会社の会議において議事が支障なく進行していれば、会社というオートポイエティック・システムからみて、個々の参加メンバーが心のなかではどんなことを考えていようと、ひとまず参加メンバーのあいだで情報伝達が行われていると考えることができます。HACSモデルによって、生物のもつ根本的な自律性と、細かいルールが伝達され普及されるデジタル社会特有の他律性という二面性を、理論的にとらえることが可能となるわけです。人間は心の中で自由にどのようなことでも考えられるから原理的な自律性をもっているけれど、社会的にはルールにしたがって行動せざるをえない。 社会のほうは人間同士のコミュニケーションをもとに自律的に作動しているので、人間が直接、短期的に変えることがなかなか難しい。したがって個々の人間は、自分が他律的に束縛されていると思いこんでしまうことが多いのです。
それでは、機械を介した情報交換についてはどう考えればよいのでしょう。
西垣 コンピュータが処理できるのはごく一部の情報にすぎないのですよ。基礎情報学では、情報というものの概念を3段階に再定義して、もっとも広義のものを「生命情報（life information）」、それより狭義のものを「社会情報 （social information）」、最狭義のものを「機械情報 (mechanical information)」 と呼びます。生命情報というのは 苦痛や快感、愛情や憎悪などの、身体のなかで生じる動的変化に起因するもので、必ずしも意識で十分にとらえられるとはかぎりません。これらは生物が主観的に世界を意味づけ構成するときの基盤となる根源的な意味内容といえます。やや狭い社会情報というのが、私たちがふだん情報と呼んでいるもので、生命情報のもつ意味内容を人間社会で通用する記号の体系（シニフィアンのシステム）に結びつけたものです。さらに狭い機械情報というのは、社会情報を効率的に処理するため、記号から意味内容をいったん切り離して、記号自体を独立して扱えるようにしたものです。そこには包含関係があって、通常は生命情報の一部が社会情報に、社会情報の一部が機械情報になります。
抽象化の段階があるということですね。
西垣 猫を飼っている人が獣医に行くときのことを考えてみましょう。具合の悪い猫を心配しているとき、飼い主にとってかけがえのない愛猫ですから、その感情は生命情報です。獣医のところに行くと、そこでは動物種としてのネコとして診断がくだされます。これはシニフィアンとシニフィエの医学的記号体系を背景に持つ社会情報です。診断結果にもとづき、獣医さんが病状や薬品名をパソコンの中に打ち込むと、そのデータは機械情報です。機械情報というのは、社会情報のシニフィアンだけをある意味で独立させて、機械で効率よく処理できるようにするための存在なわけです。いま情報社会といわれていますが、その内実の大半は単なる機械情報の集積体にすぎません。情報社会の前提にあるのが社会情報であるというところまでは、一般人もうすうす気づいていますが、その根底に生命的な情報があるというところには思い至っていないのが現状です。
生命情報のレイヤーと社会情報のレイヤーとは動的な関係にある。それを外部化して機械による取り扱いを容易にしたものが機械情報ということですね。
西垣 おっしゃるとおりです。通信学者クロード・シャノンの定義のもとでは意味内容が捨象された記号の処理効率が論じられるので、機械情報だけが情報と見なされることも少なくありません。AIの応用では、コンピュータが処理できる機械情報と、処理できない社会情報や生命情報とを概念的に混同していることから混乱が生じます。記号接地問題は、まさに機械情報をなんとか社会情報と同じように扱おうとすることから生じているわけです。AIにおける意味処理というのは、ある特定の条件下で、記号の使用確率を計算して、記号を定型的な社会行動と結びつける試みなのです。客観世界を前提とした統辞論的処理にすぎません。本来の情報が生命情報だとすると、機械情報は人間が生み出す意味内容のごく一部だということになります。したがって、コンピューティング・パラダイムにもとづく機械情報のデジタル処理が野放図に拡大され、信奉されてしまうと、社会における他律的側面が急激に肥大化していきます。人間の自由で創造的な思考能力が衰え、行動が画一化されてしまう恐れがあります。
機械情報において生命情報や社会情報にある情報は、削ぎ落とされたのではなく潜在化されているのでしょうか。動的な要素が削ぎ落とされていると、機械情報から社会情報や生命情報へとフィードバックする際に大きな問題を生じかねないと思うのですが。
西垣 基本的には機械情報においては意味が潜在化するだけで、まったくなくなるわけではありません。しかし、機械情報の処理のなかで失われる部分は確かにある。そのことが深刻で重要な事態をひきおこしかねないのです。とくに生成AIにおいては、機械情報で処理したものを社会情報としてアウトプットする際にアルゴリズムによる解釈がなされます。さきほどの猫の例でいうと、飼い主にとっては猫に苦痛を与えないことも大切なことで、たんに治ればよい、治療費が安価になればよいというわけではありません。機械情報での処理に多くを委ねすぎると、そうした飼い主の生命的な情報、気持ちが失われるという懸念があります。私たち人間は決してデータ処理だけで生きているわけではなく、生命的なフィードバックのサイクルのなかで生きているのですから。
