東京大学名誉教授 西垣通氏に聞く
第３回 基礎情報学の視座からみえる人間とAIの未来像

有限の論理演算と確率から無限の偶然性へ

機械情報が前景化しつつ社会情報や生命情報にフィードバックされると、私たちの世界観も客観情報に支配されるかもしれません。

西垣　AIはコンピューティング・パラダイムにもとづいて膨大なデータを高速で統計処理して客観世界のありようを分析し、確率的に正しい回答を出力しようとします。統計処理の前提として、世界のなかにある対象が静的に所与のカテゴリーにしたがって分類されて、意味づけがなされていなくてはなりません。ある地域である期間に罹患したコロナ患者の数というように、意味づけられた対象のある範囲で生起したできごとがデータとしてカウントされ、分析されるわけです。こうした分析はもちろん有用ですが、必ずしも絶対的なカテゴリーがあるわけではなく、分類に恣意性がまぎれこむこともあります。たとえば肌の色でカテゴリー分けをしてデータをとれば、人種差別になります。一元的な絶対知を求めていたのが西洋の近代進歩主義でしたが、文化人類学者クロード・レヴィ=ストロースはこれを否定して多元的な知を主張し、20世紀末にポストモダニズムが広がりました。

データのラベルづけにおいて、かつての自文化中心主義的なバイアスが入りこみ、場合によっては既成事実化してしまうわけですね。

西垣　サイバネティック・パラダイムのもとでは、観察の仕方にもとづく多様な世界の意味づけや多様な分節の仕方が許容されますし、構成される世界のありようは、時々刻々と変わっていきます。ヴァレラがいうように、心も世界も身体的行為とともに動的に創出されるわけです。これをコンピューティング・パラダイムの側から眺めると、無限の偶然性があるということになります。つまり、人間が生きるうえで、データ分析と論理的演算では捉えられない側面に光が当たることになるのです。

環境の変化に適応しつづけるうえで、重要な情報ですものね。

西垣　コンピューティング・パラダイムにもとでは、原則として過去に蓄積されたデータのみを分析しますから、AIは未知のまったく新しい状況については有効ではありません。これは大きな問題です。コロナ禍が襲来したときにどう対処すべきかがAIには決定困難だったように、データ分析が有効なのは、世界のありようが安定している場合においてのみなのです。一方、人間をふくむ生物は、未知の状況でもなんとか生きようとして主観的に行動します。それが、サイバネティック・パラダイムのもとで活路を開くかもしれない。

リフレクシヴな環境適応をしていくわけですよね。

西垣　失敗に終わったとしても、そこからさらに新たな適応の方法を生み出していくのが生物なのです。

私たちが本当に考えなければならないこと

個人のレベルも社会のレベルも再帰的に進むことを考えると、私たちがAIになにを求めるべきかを再考しなくてはなりません。

西垣　現在はAI、とくに生成AIへの期待が国内外で非常に高まっていて、産業革命に匹敵する経済効果を持つと予測する人もいます。また、AIが人間をしのぐ知力を持ち、重要な判断を任せられるようになるというトランス・ヒューマニストの主張も一部で強い支持を集めています。その反面、AIの危険性を警戒する声も少なくありません。事実とは異なる誤情報や意図的な欺瞞にみちた偽情報の拡散をはじめ、データ収集におけるプライバシーや著作権の侵害も指摘されています。こうした危機感から、EUを中心に法規制の動きも活発ですが、イノベーションを阻害する懸念のためか、日本の当局は規制には及び腰ではないでしょうか。

EUでは、かなり厳格なAI規制が承認されて発効を待つばかりになっています（取材時）。

西垣　統計をとってみても、日本人の多くは、AIの活用についてアメリカやEUよりもずっと好意的です。裏をかえせば欧米のような危機感が醸成されていないともいえます。これは、西洋の近代科学技術の思想的背景を問うことなく、表面的成果だけを利用してきた和魂洋才のアプローチがいまも続いているからでしょう。AIの専門家と話しても、輸入技術の技術的細部についての議論ばかりで、根本を問う議論はほとんど聞かれません。

生成AIの意義が自明視されていて、その位置づけが問われないわけですね。

西垣　一見もっともらしい文章や図像を生成しても、AIには真の自律性が無いので、人間のような生きるために思考する能力を持ちません。これは決定的な相違です。ですから、安易に生成AIに頼りすぎると、社会的コミュニケーションにおいて他律的な部分ばかりが増大していく。人間が機械部品のように生成AIの判断に盲従してしまい、未知の状況のもとで自律的に局面を打開する生命的な能力を失っていくでしょう。これは大きな問題です。しかしAIの専門家の集まるなかで私が自律性についてそういう話をしても「この先進歩して、AIが自律性をもつようになることを否定できないのではないか」という屁理屈で反論されることが多いのですよ。

否定神学的な論旨ですね。とかくAIについての議論は、自分の仕事が奪われるのではないかという近視眼的なものと、AIにより人間がアップデートするようなトランス・ヒューマニズムのような遠大なものとの2極に大きく振れがちです。

西垣　もう一つの現実的な心配事は、生成AIの作動操作がビッグテックといわれる少数の大企業や中央集権政府のエリートたちによって独占的に統御されるのではないかということです。現状のままでは、生成AIの出力が、彼らエリートや関連するごく一部の富裕層に都合のよいものとなって、地球上の富がそこに吸い込まれていくでしょう。生成AIは膨大な電力や冷却水を消費して炭酸ガスを排出しますから、地球の生命環境が損なわれる恐れもあります。そのしわ寄せがどこにいくかといえば、グローバルサウス諸国を中心とした新興国です。日本人はそうした暗い近未来が到来する可能性に早く気づいて、たんに欧米に追随するだけでなく、アジアの一員として新たな共生の方向を模索してはどうでしょうか。近著 『デジタル社会の罠一生成AIは日本をどう変えるか』（毎日新聞出版）では、そうしたことを提言しています。

AIが今後さらに大きなメリットをもたらすとしても、Transformerというただ1つの基盤モデルにすべてを賭けている現状はリスクが高いように思います。

西垣　生成AIは高度な技術ですから、いろいろ役立てることはできるでしょう。上手な活用法を慎重に選べば非常に効果的です。たとえば外国語の初歩学習への適用はとても有効ではないでしょうか。単語の論理的関係にもとづいて文章の読み書きを補助することは、生成AIが得意とするところですから。訪日外国人観光客とのコミュニケーションにも大いに役立つのではありませんか。また私は先日、医療診断への適用について知りました。大量の医療画像の中から病変のある画像を選び出す際にAIが事前処理を行うのです。お医者さんは忙しいですから、病変があるかもしれない画像について最終的判断をくだすまでの手間は大いに削減されるようです。

日本は人口あたりのCT装置、MRI装置の数が世界一だそうですから、そうしたアドバンテージを活用することは合理的ですね。

西垣　AIの統計的な処理を活用する方法は、ほかにもたくさんあると思います。日本人は緊密なチームプレーが得意ですからね。それが高品質のものづくりによる日本経済の隆盛をもたらしましたし、1970〜1980年代の日本のIT技術のレベルは米国に匹敵するほどのものでした。21世紀になってデジタル後進国と批判されていますが、それはアメリカ流のオープンな手法をそのまま直輸入しようとしたからです。思想的にも文化的にも異なる背景を持つ欧米の真似をしても追いつくことは難しいでしょう。

文化的にいうと、トランス・ヒューマニストたちはテクノロジーが神性を帯びる未来社会の預言者を演じようとしています。ハラリの『ホモ・デウス』（河出書房新社）でも、人が神に進化するというより、データ処理を支配して神のようにふるまう“ホモ・デウス”とその他の“ホモ・ユースレス”に分断されるディストピアを憂慮しています。一方、私たち日本人の多くは神のような存在を求めているわけではありませんし、そこが動機になることもないと思います。

西垣　トランス・ヒューマニズムを追いかけるのでなく、日本の文化的特質に合った方向に進むべきです。AIのなかでも、目的に特化した国産技術を目指したほうが成功するでしょう。すでに国内では、ビッグデータを網羅するのでなく、目的に応じた専門的なデータを限定して高精度に解析するKIBIT（機徴のある情報ビット）という名前の省電力のシステムも開発されていると聞いています。これからAIは世界中でつかわれるようになるでしょうが、そこでは高品質で正確に作動するハードやソフトが必ず希求されます。日本は、そうした応用に注力してもよいと思います。

機械情報でできた超知能のようなものを仮想して、そこを目指すことが生命的だとは思えませんし、少なくとも日本人のメンタリティには合わないように思います。

西垣　シンギュラリティ仮説は典型ですが、人間をしのぐ汎用知としてのAIが近々現れるといった誇大宣伝に惑わされてはなりません。サイバネティック・パラダイムを念頭において、ローカルな個別目的に役立つ精密なIT製品をつくる地道な努力が、長い目でみれば実を結ぶはずです。

桐原　私はこの「IT批評」で、科学技術の歴史において目的論から機械論に移ってくるという大きな潮流があるにもかかわらず、欧米のエンジニアや研究者には、神をつくりあげるという宗教的な目的論を感じてしまうということを繰り返し考えてきました。そこにはやはり一神教的な思想が伏流しているのではないかと考えています。

西垣　おっしゃる通りで、そうした信仰が彼らの心のなかに染みついているのだと私も確信しています。生の意味を自問したときに、自分が深いところで崇高なものに支えられているという気持ちが湧いてくる。私は少年期に東京少年少女合唱団でグレゴリオ聖歌を歌ったりしていましたから、彼らがそういう崇高なものに憧れる気持ちは非常によくわかりますし、羨ましいと思ったことさえあります。欧米文化が世界をまとめたのは、信仰心の結果でもあるわけですから。また私が『1492年のマリア』（講談社）に書いたように、祖国を追われたユダヤの人たちがアメリカに理想郷を夢見たことも忘れてはならない。その理想が、やがてコンピューティング・パラダイムとして開花したという経緯も印象深いですね。ただ現実論としては、こうした歴史的背景を持たない日本人には、グローバルな視野をもちつつも、サイバネティック・パラダイムにもとづいた生命的な価値観の醸成に取り組んでほしい。私はそういう思いを強く持っています。＜了＞