共同主観的ネットワークの虚構と生成AIのハルシネーション──ハラリ『NEXUS』が示唆した領域
第１回 一神教的世界観によるテクノロジーの読み解きへの疑問

近代化へのいくつかの反動に共通するもの

『NEXUS』のなか、ハラリがカーツワイルの思想に対する違和感を述べる箇所がある。本書の冒頭、プロローグだ。

アメリカの投資家であるマーク・アンドリーセンが、その小論「AIが世界を救う理由」において、AIが人類の問題をすべて解決、改善して世界を救う。ゆえにAIの開発は「自らや子供たちや未来にとっての道徳的義務」だとしたと紹介した後で、こう述べる。

記載のようにこれは未来学者のレイ・カーツワイルの『シンギュラリティはより近く 人類がAIと融合するとき』(高橋則明訳/NHK出版)の一節なのだが正確な引用ではない。日本版の該当箇所を引用すれば、次のように書かれている。

同じ箇所を比較すればすぐにわかることだが、カーツワイルは「道徳的要請」と述べており、それが必要なのはAIというテクノロジーのリスクの軽減についてであり、ハラリの引用のように、このテクノロジーの進化、実現を「道徳的責務」とは言っていない。語句についてはただの翻訳上の違いなのだろうが、ハラリの意図が込められているように読まずにはいられない。

カーツワイルは、引用文に続けて核戦争に怯えながら核兵器を管理しきたように「超知能AI」を人間の管理下に置いて責任を持って利用することを提唱している。カーツワイルの主張のポイントはむしろこちらにある。そして、このポイントは字面でみればハラリの『NEXUS』での主張とも大きな違いはない。

カーツワイルの『シンギュラリティはより近く』は、『ポスト・ヒューマン誕生 コンピュータが人類の知性を超えるとき』（井上健、小野木明恵、野中香方子、福田実訳/NHK出版）、『シンギュラリティは近い 人類が生命を超越するとき』（NHK出版編/NHK出版）に続く一冊であり、これまで同様にバイオテクノロジー、ナノテクノロジーとの進化と合わせて人類の──知能も含む──身体的な条件の改善によってもたらされる幸福な未来を、さまざまな過去のデータを駆使して語られる。ある意味で、現在のテクノロジストの主張を集約している。この身体の問題については後でもう一度、触れたい。

わたし自身は一神教的世界観による現在とテクノロジーの読み解きという点で、ハラリとカーツワイルとを同じ俎上に上げてきた。科学革命以降の近代化というコンセプトは、常にヨーロッパ化、民主主義化、資本主義化、そしてキリスト教化とニアイコールであり続けており、その世界観の枠内での議論は普遍性の一部分でしかないのではないかと、わたしは考えている。

近代化への反発こそ、ハラリがとり上げるナチズム、スターリニズム、イスラム原理主義、ポピュリズムなどの背景にあるものだと、わたしは暴論はなはだしくも思っている。民主主義に反対する国家社会主義、資本主義に反対する共産主義、キリスト教に反対するイスラム原理主義、グローバリズムを嫌悪するポピュリズム……といえば単純すぎるかもしれないが、大きな見通しにはなるだろう。付言しておけば、戦前日本の八紘一宇的なイデオロギーもヨーロッパ化、個人主義化に対抗するための東洋回帰であり集団主義への回帰であったのではないだろうか。

そういう見通しのなかでは、ハラリの悲観とカーツワイルの楽観に大差はないように思ってきたのだが、わたしは短絡にすぎるだろうか？　新しい神を巡る神学論争に見えてしまう。