基礎情報学の視座からみえる人間とAIの未来像
――東京大学名誉教授 西垣通氏に聞く(3)
桐原永叔(IT批評編集長)
西垣通氏へのインタビュー第3回では、HACSモデルや情報の3層モデルなど、基礎情報学の核心へと話が及んだ。そこからみえてきたものは、私たち人間こそが克服すべき課題、そして日本の目指すべきAIテクノロジーの方途だった。困難と指針を同時に突きつける、示唆に満ちた最終回。
取材:2024年6月5日 トリプルアイズ会議室にて
西垣通(にしがき とおる)東京大学大学院情報学環名誉教授。1948年東京生まれ。東京大学工学部計数工学科卒。工学博士(東京大学)。日立製作所でコンピュータ研究開発に従事し、客員研究員としてスタンフォード大学に留学。その後、明治大学教授、東京大学社会科学研究所教授、東京大学大学院情報学環教授、東京経済大学コミュニケーション学部教授を歴任。専攻は情報学、メディア論。基礎情報学の提唱者として知られる。著書として、『デジタル社会の罠』(毎日新聞出版)、『AI原論』(講談社選書メチエ)、『ビッグデータと人工知能』(中公新書)、『ネット社会の「正義」とは何か』(角川選書)、『超デジタル世界』(岩波新書)、『基礎情報学(正・続・新)』(NTT出版)ほか多数。『デジタル・ナルシス』(岩波書店)ではサントリー学芸賞(芸術・文学部門)を受賞した。 |
目次
階層的自律コミュニケーション・システム (HACS)とはなにか
階層的自律コミュニケーション・システム (HACS)とはなにか
――自律と他律の矛盾を、どのように理解すればよいのでしょう。
西垣 ここで大切になってくるのは、情報伝達についてです。オートポイエティック・システムは閉鎖系ですから、理論上は異なる生物個体どうしで直接の情報伝達はできません。電子メールでラブレターを送ってもなかなか気持ちが伝わらないような経験は、誰にもあるでしょう。しかし情報伝達をきちんと定義できないと、サイバネティック・パラダイムのもとでデジタル情報社会のテーマを扱うことは不可能になってしまいます。
――情報伝達をきちんととらえないと、私たちの社会的な側面を語ることができなくなります。
西垣 理論的にいうとオートポイエティック・システムは他のオートポイエティック・システムの構成素にはなれませんから、自律的な社会のなかで個々の人間はその構成素になれず、したがって自律的にはなりえなくなってしまいます。この矛盾については、ネオ・サイバネティシャンの間でもさまざまな論争がありました。この難問をある意味で解決したのがニクラス・ルーマンです。ルーマンの機能的分化社会論においては、コミュニケーションを構成素として捉え、個人だけでなく社会もオートポイエティック・システムとして自律性をもちうるとされます。しかし、そこでは社会システムと個々人の心的システムが対等なものとして位置づけられます。経済や政治、教育や法などの多種多様な機能システムがそれぞれ独自の論理にしたがって社会を構成しているというわけです。そうすると、各々の社会システムと個々人の心的システムとの関係数は天文学的な数字になり、きわめて複雑化して総合的な分析が困難になります。
――モデルとしては成立するものの、社会は多様性に満ちているという結論で終わってしまう。
西垣 この困難を解決するものとして私が提唱するのが、基礎情報学の中心概念であるHACS(Hierarchical Autonomous Communication System:階層的自律コミュニケーション・システム )なのです。従来のオートポイエーシス理論では、各オートポイエティック・システムは互いに独立で対等なのですが、その間に階層関係を導入するのがHACSモデルの特徴です。HACSモデルにおいては、一般に個々人の心的システムはその所属する社会システムの下位に位置づけられます。社会システムは、メンバーの言動を素材としたコミュニケーションを構成素とするオートポイエティック・システムです。一方メンバーである個人の心的システムも、それぞれ自分の思考を構成素とするオートポイエティック・システムとして、ともに自律性を持っています。しかし上位にある社会システムからみると、個々のメンバーはコミュニケーションの素材を提供する他律的なアロポイエティックな存在となります。またメンバー個人からみると、社会は自然と同じく一種の環境として立ち現れて、個人の言動に一定の制約が加えられることになります。
――個人が自律的にみえるレイヤーと、他律的にみえるレイヤーとの2つの視点を想定するという理解でよろしいですか。
西垣 そう捉えることで、さまざまなことを理解できるというのが私の考えかたです。典型例として、会社とその社員のオートポイエティック・システムを挙げてみましょう。会社の会議において、社員は生物的自律性を持っていますから、心の中ではどんなことでも考えられます。頭のなかで「つまらないことを議論しているな。そういえば次の週末にはどこに行こうかな」と考えていてもよいわけです。ただし会議中に声に出してよいのは議事内容に関連した発言だけですから、これが制約になります。しかし、個人にとって会社が環境のようなものだとはいっても、会議で「拡販議論の途中ですが、その商品自体、もう時代に合っていませんよ」と発言することはできます。コミュニケーションによって、ボトムアップ的に上位の階層にはたらきかけることは可能なわけですね。もっと大きい価値観の変化も少しずつ引き起せます。若い女性社員より年長の男性社員に多くの発言機会を与えるという従来の慣習が人々の価値観の変化とともに廃れて、参加メンバーの誰もが平等に発言できるようになるかもしれません。このように下位のオートボイエテイック・システムの作動が、長期的には上位のオートポイエティック・システムの作動に影響を与えることもあるわけです。
生命情報・社会情報・機械情報
――HACSモデルが導入されることで、個人と社会の間におけるコミュニケーションの非対称性についても明らかになるわけですね。
西垣 会社の会議において議事が支障なく進行していれば、会社というオートポイエティック・システムからみて、個々の参加メンバーが心のなかではどんなことを考えていようと、ひとまず参加メンバーのあいだで情報伝達が行われていると考えることができます。HACSモデルによって、生物のもつ根本的な自律性と、細かいルールが伝達され普及されるデジタル社会特有の他律性という二面性を、理論的にとらえることが可能となるわけです。人間は心の中で自由にどのようなことでも考えられるから原理的な自律性をもっているけれど、社会的にはルールにしたがって行動せざるをえない。 社会のほうは人間同士のコミュニケーションをもとに自律的に作動しているので、人間が直接、短期的に変えることがなかなか難しい。したがって個々の人間は、自分が他律的に束縛されていると思いこんでしまうことが多いのです。
――それでは、機械を介した情報交換についてはどう考えればよいのでしょう。
西垣 コンピュータが処理できるのはごく一部の情報にすぎないのですよ。基礎情報学では、情報というものの概念を3段階に再定義して、もっとも広義のものを「生命情報(life information)」、それより狭義のものを「社会情報 (social information)」、最狭義のものを「機械情報 (mechanical information)」 と呼びます。生命情報というのは 苦痛や快感、愛情や憎悪などの、身体のなかで生じる動的変化に起因するもので、必ずしも意識で十分にとらえられるとはかぎりません。これらは生物が主観的に世界を意味づけ構成するときの基盤となる根源的な意味内容といえます。やや狭い社会情報というのが、私たちがふだん情報と呼んでいるもので、生命情報のもつ意味内容を人間社会で通用する記号の体系(シニフィアンのシステム)に結びつけたものです。さらに狭い機械情報というのは、社会情報を効率的に処理するため、記号から意味内容をいったん切り離して、記号自体を独立して扱えるようにしたものです。そこには包含関係があって、通常は生命情報の一部が社会情報に、社会情報の一部が機械情報になります。
――抽象化の段階があるということですね。
西垣 猫を飼っている人が獣医に行くときのことを考えてみましょう。具合の悪い猫を心配しているとき、飼い主にとってかけがえのない愛猫ですから、その感情は生命情報です。獣医のところに行くと、そこでは動物種としてのネコとして診断がくだされます。これはシニフィアンとシニフィエの医学的記号体系を背景に持つ社会情報です。診断結果にもとづき、獣医さんが病状や薬品名をパソコンの中に打ち込むと、そのデータは機械情報です。機械情報というのは、社会情報のシニフィアンだけをある意味で独立させて、機械で効率よく処理できるようにするための存在なわけです。いま情報社会といわれていますが、その内実の大半は単なる機械情報の集積体にすぎません。情報社会の前提にあるのが社会情報であるというところまでは、一般人もうすうす気づいていますが、その根底に生命的な情報があるというところには思い至っていないのが現状です。
――生命情報のレイヤーと社会情報のレイヤーとは動的な関係にある。それを外部化して機械による取り扱いを容易にしたものが機械情報ということですね。
西垣 おっしゃるとおりです。通信学者クロード・シャノンの定義のもとでは意味内容が捨象された記号の処理効率が論じられるので、機械情報だけが情報と見なされることも少なくありません。AIの応用では、コンピュータが処理できる機械情報と、処理できない社会情報や生命情報とを概念的に混同していることから混乱が生じます。記号接地問題は、まさに機械情報をなんとか社会情報と同じように扱おうとすることから生じているわけです。AIにおける意味処理というのは、ある特定の条件下で、記号の使用確率を計算して、記号を定型的な社会行動と結びつける試みなのです。客観世界を前提とした統辞論的処理にすぎません。本来の情報が生命情報だとすると、機械情報は人間が生み出す意味内容のごく一部だということになります。したがって、コンピューティング・パラダイムにもとづく機械情報のデジタル処理が野放図に拡大され、信奉されてしまうと、社会における他律的側面が急激に肥大化していきます。人間の自由で創造的な思考能力が衰え、行動が画一化されてしまう恐れがあります。
――機械情報において生命情報や社会情報にある情報は、削ぎ落とされたのではなく潜在化されているのでしょうか。動的な要素が削ぎ落とされていると、機械情報から社会情報や生命情報へとフィードバックする際に大きな問題を生じかねないと思うのですが。
西垣 基本的には機械情報においては意味が潜在化するだけで、まったくなくなるわけではありません。しかし、機械情報の処理のなかで失われる部分は確かにある。そのことが深刻で重要な事態をひきおこしかねないのです。とくに生成AIにおいては、機械情報で処理したものを社会情報としてアウトプットする際にアルゴリズムによる解釈がなされます。さきほどの猫の例でいうと、飼い主にとっては猫に苦痛を与えないことも大切なことで、たんに治ればよい、治療費が安価になればよいというわけではありません。機械情報での処理に多くを委ねすぎると、そうした飼い主の生命的な情報、気持ちが失われるという懸念があります。私たち人間は決してデータ処理だけで生きているわけではなく、生命的なフィードバックのサイクルのなかで生きているのですから。
有限の論理演算と確率から無限の偶然性へ
――機械情報が前景化しつつ社会情報や生命情報にフィードバックされると、私たちの世界観も客観情報に支配されるかもしれません。
西垣 AIはコンピューティング・パラダイムにもとづいて膨大なデータを高速で統計処理して客観世界のありようを分析し、確率的に正しい回答を出力しようとします。統計処理の前提として、世界のなかにある対象が静的に所与のカテゴリーにしたがって分類されて、意味づけがなされていなくてはなりません。ある地域である期間に罹患したコロナ患者の数というように、意味づけられた対象のある範囲で生起したできごとがデータとしてカウントされ、分析されるわけです。こうした分析はもちろん有用ですが、必ずしも絶対的なカテゴリーがあるわけではなく、分類に恣意性がまぎれこむこともあります。たとえば肌の色でカテゴリー分けをしてデータをとれば、人種差別になります。一元的な絶対知を求めていたのが西洋の近代進歩主義でしたが、文化人類学者クロード・レヴィ=ストロースはこれを否定して多元的な知を主張し、20世紀末にポストモダニズムが広がりました。
――データのラベルづけにおいて、かつての自文化中心主義的なバイアスが入りこみ、場合によっては既成事実化してしまうわけですね。
西垣 サイバネティック・パラダイムのもとでは、観察の仕方にもとづく多様な世界の意味づけや多様な分節の仕方が許容されますし、構成される世界のありようは、時々刻々と変わっていきます。ヴァレラがいうように、心も世界も身体的行為とともに動的に創出されるわけです。これをコンピューティング・パラダイムの側から眺めると、無限の偶然性があるということになります。つまり、人間が生きるうえで、データ分析と論理的演算では捉えられない側面に光が当たることになるのです。
――環境の変化に適応しつづけるうえで、重要な情報ですものね。
西垣 コンピューティング・パラダイムにもとでは、原則として過去に蓄積されたデータのみを分析しますから、AIは未知のまったく新しい状況については有効ではありません。これは大きな問題です。コロナ禍が襲来したときにどう対処すべきかがAIには決定困難だったように、データ分析が有効なのは、世界のありようが安定している場合においてのみなのです。一方、人間をふくむ生物は、未知の状況でもなんとか生きようとして主観的に行動します。それが、サイバネティック・パラダイムのもとで活路を開くかもしれない。
――リフレクシヴな環境適応をしていくわけですよね。
西垣 失敗に終わったとしても、そこからさらに新たな適応の方法を生み出していくのが生物なのです。
私たちが本当に考えなければならないこと
――個人のレベルも社会のレベルも再帰的に進むことを考えると、私たちがAIになにを求めるべきかを再考しなくてはなりません。
西垣 現在はAI、とくに生成AIへの期待が国内外で非常に高まっていて、産業革命に匹敵する経済効果を持つと予測する人もいます。また、AIが人間をしのぐ知力を持ち、重要な判断を任せられるようになるというトランス・ヒューマニストの主張も一部で強い支持を集めています。その反面、AIの危険性を警戒する声も少なくありません。事実とは異なる誤情報や意図的な欺瞞にみちた偽情報の拡散をはじめ、データ収集におけるプライバシーや著作権の侵害も指摘されています。こうした危機感から、EUを中心に法規制の動きも活発ですが、イノベーションを阻害する懸念のためか、日本の当局は規制には及び腰ではないでしょうか。
――EUでは、かなり厳格なAI規制が承認されて発効を待つばかりになっています(取材時)。
西垣 統計をとってみても、日本人の多くは、AIの活用についてアメリカやEUよりもずっと好意的です。裏をかえせば欧米のような危機感が醸成されていないともいえます。これは、西洋の近代科学技術の思想的背景を問うことなく、表面的成果だけを利用してきた和魂洋才のアプローチがいまも続いているからでしょう。AIの専門家と話しても、輸入技術の技術的細部についての議論ばかりで、根本を問う議論はほとんど聞かれません。
――生成AIの意義が自明視されていて、その位置づけが問われないわけですね。
西垣 一見もっともらしい文章や図像を生成しても、AIには真の自律性が無いので、人間のような生きるために思考する能力を持ちません。これは決定的な相違です。ですから、安易に生成AIに頼りすぎると、社会的コミュニケーションにおいて他律的な部分ばかりが増大していく。人間が機械部品のように生成AIの判断に盲従してしまい、未知の状況のもとで自律的に局面を打開する生命的な能力を失っていくでしょう。これは大きな問題です。しかしAIの専門家の集まるなかで私が自律性についてそういう話をしても「この先進歩して、AIが自律性をもつようになることを否定できないのではないか」という屁理屈で反論されることが多いのですよ。
――否定神学的な論旨ですね。とかくAIについての議論は、自分の仕事が奪われるのではないかという近視眼的なものと、AIにより人間がアップデートするようなトランス・ヒューマニズムのような遠大なものとの2極に大きく振れがちです。
西垣 もう一つの現実的な心配事は、生成AIの作動操作がビッグテックといわれる少数の大企業や中央集権政府のエリートたちによって独占的に統御されるのではないかということです。現状のままでは、生成AIの出力が、彼らエリートや関連するごく一部の富裕層に都合のよいものとなって、地球上の富がそこに吸い込まれていくでしょう。生成AIは膨大な電力や冷却水を消費して炭酸ガスを排出しますから、地球の生命環境が損なわれる恐れもあります。そのしわ寄せがどこにいくかといえば、グローバルサウス諸国を中心とした新興国です。日本人はそうした暗い近未来が到来する可能性に早く気づいて、たんに欧米に追随するだけでなく、アジアの一員として新たな共生の方向を模索してはどうでしょうか。近著 『デジタル社会の罠一生成AIは日本をどう変えるか』(毎日新聞出版)では、そうしたことを提言しています。
――AIが今後さらに大きなメリットをもたらすとしても、Transformerというただ1つの基盤モデルにすべてを賭けている現状はリスクが高いように思います。
西垣 生成AIは高度な技術ですから、いろいろ役立てることはできるでしょう。上手な活用法を慎重に選べば非常に効果的です。たとえば外国語の初歩学習への適用はとても有効ではないでしょうか。単語の論理的関係にもとづいて文章の読み書きを補助することは、生成AIが得意とするところですから。訪日外国人観光客とのコミュニケーションにも大いに役立つのではありませんか。また私は先日、医療診断への適用について知りました。大量の医療画像の中から病変のある画像を選び出す際にAIが事前処理を行うのです。お医者さんは忙しいですから、病変があるかもしれない画像について最終的判断をくだすまでの手間は大いに削減されるようです。
――日本は人口あたりのCT装置、MRI装置の数が世界一だそうですから、そうしたアドバンテージを活用することは合理的ですね。
西垣 AIの統計的な処理を活用する方法は、ほかにもたくさんあると思います。日本人は緊密なチームプレーが得意ですからね。それが高品質のものづくりによる日本経済の隆盛をもたらしましたし、1970〜1980年代の日本のIT技術のレベルは米国に匹敵するほどのものでした。21世紀になってデジタル後進国と批判されていますが、それはアメリカ流のオープンな手法をそのまま直輸入しようとしたからです。思想的にも文化的にも異なる背景を持つ欧米の真似をしても追いつくことは難しいでしょう。
――文化的にいうと、トランス・ヒューマニストたちはテクノロジーが神性を帯びる未来社会の預言者を演じようとしています。ハラリの『ホモ・デウス』(河出書房新社)でも、人が神に進化するというより、データ処理を支配して神のようにふるまう“ホモ・デウス”とその他の“ホモ・ユースレス”に分断されるディストピアを憂慮しています。一方、私たち日本人の多くは神のような存在を求めているわけではありませんし、そこが動機になることもないと思います。
西垣 トランス・ヒューマニズムを追いかけるのでなく、日本の文化的特質に合った方向に進むべきです。AIのなかでも、目的に特化した国産技術を目指したほうが成功するでしょう。すでに国内では、ビッグデータを網羅するのでなく、目的に応じた専門的なデータを限定して高精度に解析するKIBIT(機徴のある情報ビット)という名前の省電力のシステムも開発されていると聞いています。これからAIは世界中でつかわれるようになるでしょうが、そこでは高品質で正確に作動するハードやソフトが必ず希求されます。日本は、そうした応用に注力してもよいと思います。
――機械情報でできた超知能のようなものを仮想して、そこを目指すことが生命的だとは思えませんし、少なくとも日本人のメンタリティには合わないように思います。
西垣 シンギュラリティ仮説は典型ですが、人間をしのぐ汎用知としてのAIが近々現れるといった誇大宣伝に惑わされてはなりません。サイバネティック・パラダイムを念頭において、ローカルな個別目的に役立つ精密なIT製品をつくる地道な努力が、長い目でみれば実を結ぶはずです。
桐原 私はこの「IT批評」で、科学技術の歴史において目的論から機械論に移ってくるという大きな潮流があるにもかかわらず、欧米のエンジニアや研究者には、神をつくりあげるという宗教的な目的論を感じてしまうということを繰り返し考えてきました。そこにはやはり一神教的な思想が伏流しているのではないかと考えています。
西垣 おっしゃる通りで、そうした信仰が彼らの心のなかに染みついているのだと私も確信しています。生の意味を自問したときに、自分が深いところで崇高なものに支えられているという気持ちが湧いてくる。私は少年期に東京少年少女合唱団でグレゴリオ聖歌を歌ったりしていましたから、彼らがそういう崇高なものに憧れる気持ちは非常によくわかりますし、羨ましいと思ったことさえあります。欧米文化が世界をまとめたのは、信仰心の結果でもあるわけですから。また私が『1492年のマリア』(講談社)に書いたように、祖国を追われたユダヤの人たちがアメリカに理想郷を夢見たことも忘れてはならない。その理想が、やがてコンピューティング・パラダイムとして開花したという経緯も印象深いですね。ただ現実論としては、こうした歴史的背景を持たない日本人には、グローバルな視野をもちつつも、サイバネティック・パラダイムにもとづいた生命的な価値観の醸成に取り組んでほしい。私はそういう思いを強く持っています。<了>