共同主観的ネットワークの虚構と生成AIのハルシネーション ──ハラリ『NEXUS』が示唆した領域
第２回 繋がりは自由を生むか、支配を招くか ネットワークの現在地

ハラリの「ネットワーク」が指すもの

述べておきたいことがある。ハラリが『NEXUS』で述べたネットワークとわたしが前回から考えているネットワークの考え方の違いである。

わたしは、ネットワークは多様な人々や多層な価値観を架橋して、それぞれが互いを認め合うことで初めて回路が通じ合って成立するものだと考えている。ネットワークとはそもそも異質なもの同士を繋げる概念として捉えている。よって多様性を担保し、その流動性も保持できる。

現代社会においては、性別や国籍、文化、価値観などの違いを受け入れ、多様性を尊重することが、組織や社会全体の持続的な成長やイノベーションの源泉となっている。それは均質化、同質化した集団では発見的あるいは創発的な瞬間が減少してしまうせいだ。異質なもののなかにこそ、次の可能性が秘められている。

しかしながら、インターネットやSNSの普及によって、個人が自由に意見を発信し多様なコミュニティが生まれ、より開かれた社会が実現しつつあるという見方はもはや困難なものになっているという実感もある。フィルターバブルという同質の価値観のなかに分断され、価値観同士の回路が閉ざされているからだ。ネットワークはむしろ弊害をもたらす側面が多く、気掛かりではあった。

ハラリはこのフィルターバブルなどの同質的な集団を生み出すのがアルゴリズムだという。ユーザーの注意を惹くもの、心地の良いものだけを選り分けて提供するのが、現在のネットワークというわけだ。ハラリのいうネットワークとは、宗教組織のそれであり、政治制度──官僚社会──のそれである。ハラリのいうネットワークはむしろ異質性を排除する閉じた回路のことだ。それは現在のインターネットやSNSがもたらす世界とそっくりだ。

ハラリはそうした考えから、情報ネットワークの持つ、「秩序」と「権力の集中」に強い警戒感を示している。情報ネットワークは必ずしも真実や多様性を前提としたものではなく、むしろ共通の物語や神話、虚構によって人々を結びつけ、巨大な協力体制や社会秩序を生み出してきたと指摘する。

その際、ネットワークを支配する者――かつては王家や宗教、現在はAIや巨大テック企業――が、情報の流れや内容をコントロールすることで、社会全体を効率的に統合し、ときには全体主義的な支配へと導く危険性があると論じる。

現代のテクノロジーがもたらしたアルゴリズムが自律的に情報を選別・拡散し、個人の思考や行動を精密に操作できるようになったことで、民主主義の基盤である情報の分散や「自己修正メカニズム」が失われ、少数の権力者が大多数をコントロールする全体主義的な社会が現実味を帯びてきていると警告する。

さらに言っておくと、AIの不可謬性が全体主義はもはや独裁者だけのものではない可能性に、ハラリは言及する。

わたしが多様性と自由な交流の場として肯定的に捉えていたネットワークを、ハラリは情報や権力の集中による統制と操作のリスクを重視し、ネットワークは必ずしも多様性や自由を保証するものではないとする。

ネットワークの力が協力や信頼を生み出す一方で、虚構や偏見、プロパガンダによって分断や対立、さらには全体主義をも生み出しうるという洞察は、テクノロジーの未来を見極めるうえで、間違いなく重要な視点だ。

この点で、わたしはこれでまですべての日本版の著作を読んできて初めてハラリに宗教性を超えてシンパシーを覚えた（ずいぶん偉そうな話なのだが）。

AIによってアルゴリズムが自律することで、人類は初めて自分たち以外の知能に出会うことになる。その知能は人間には架橋不能な存在になりうる。

『ソラリス』（スタニスワフ・レム著/沼野充義訳/早川書房)に登場する「ソラリスの海」のごとく、人間には一切、その意図も目的もあるいは意識や感情さえ不確かながら、確かに知性を持つ存在になりうるのだ。ハラリはそういった知性を「エイリアン・インテリジェンス（Alien Intelligence）」と書く。

この架橋不能は、人間とAIの間に決定的な分断が生まれる。それがハラリのいう「シリコンのカーテン」というわけだ。

「シリコンのカーテン」にはもうひとつ意味が付されており、現在の米中のような国際対立のなかで、それぞれ異なった文化と思想をもった陣営内のネットワークに閉じることで起きる分断をも指す。ハラリは、ネットワークが「ウエブ（網）からコクーン（繭）」となるという。