不完全さの生態学―収束のシステムとしての核、発散の原理としてのAI
３：発散の生命―テクニウムとしてのAIの「欲求」
目次
AIというパンデミック
エネルギーを臨界点まで局所化し一点に収束（偏在）させて発生させる核爆発に対し、AIによる知能爆発は本質的に遍在を志向している。AIは特定の場所や主体に閉じ込められるものではなく、ネットワークを通じて分散し複製され、あらゆる場面に浸透していく。その根本の性質は集中ではなく拡散にあり、知的能力を局所的に独占するのではなく環境全体に行き渡らせる点にあるといえる。むしろ遍在しえなければその価値が損なわれる。ネットワークを通じて社会に浸透して、AIは機能を高めているからだ。
ここに偏在を均衡によって管理とする核と、発散による遍在を原理とするAIという、テクノロジーの根本的な方向性の違いが顕になる。AIに限らずコンピュータテクノロジーは、そうした閉域への封じ込めを原理的に拒む。コードは物質ではなく情報であり、ネットワークを介して環境そのものに溶け込み分散的に存在するからである。
思い出しておきたいのは、こうした性質が生物学的なウィルスとよく似ている点だ。病理的ウィルスは宿主の内部に入り込み、その機能を利用しながら自己を複製し環境に適応して変異を重ねる。コンピュータウィルスもまた、特定の中心を持たず、コードとして分散しシステムの隙間に侵入しながら増殖する存在である。AIやソフトウェア技術も本質的にはこの系譜に属し、モジュール単位で機能しつつ状況に応じて組み合わせを変えながら生存していく。ここでは集中や支配ではなく浸透と適応こそが力の源泉となる。
コロナなどの病理ウィルスがやがて弱毒化して人間社会のなかに浸透融解するように、AIの実装が進めばそれだけその存在は社会のなかに埋没隠蔽され、AIによる影響を発見しづらい状況になっていく。そのときこそ、良くも悪くもAIと人が共存するときだ。
現在の爆発的なAIの社会浸透はある種のパンデミックに似ているように感じられる。特定の中心や単一の主体によって完全に管理されるのではなく、複製と拡散を通じて一気に社会全体へと広がっていく。コードは容易に複製され国境や制度の境界を越えて移動し、利用される環境に適した形状に変化するため、国家や組織による一括的な統制は原理的に困難なものとなる。AIのリスクや影響を考える際に重要なのは、中央集権的な管理によって封じ込める発想ではなく、環境全体の耐性や運用の仕方を含めた分散的な制御のあり方を問い直すことだろう。
このウィルス的な遍在に対し、今、国家という収束の器が繰り出している対抗策が、「ソブリンAI」という名の防壁である。独自のデータセンターや計算資源、あるいは自国語の文脈に根ざしたモデルに囲い込もうとするこの動きは、本質的に拡散し、混合し、遍在するというAIの生命的な欲求を、再び国家の主権（ソブリン）下へと引き戻そうとする試みに他ならない。これは核が戦略的偏在によって管理されてきたのと同様の論理で、テクノロジーを自国の境界内に局所化しようとする、20世紀的な収束への回帰である。
しかし、テクニウムとしてのAIが環境的遍在をその宿命としているならば、ソブリンAIという試みは、いわば情報のパンデミックに対して国境検疫だけで立ち向かおうとするような、カテゴリー誤認の虚しさを内包している。知能がネットワークの隙間から常に漏れ出し変異しつづける以上、国家による主権的な収束の檻は内側から食い破られる運命にあるだろう。
ケヴィン・ケリーが提唱したテクニウムという視点に立てば、AIはもはや人間が制御できるような手段や道具のカテゴリーを完全に超えている。自律的に増殖し新たな可能性の拡張と多様化を志向する生命的な「欲求」そのものを宿した存在である。
物質的な核燃料であれば厳格な管理によって特定の場所に封じ込め、その力を偏在させることも可能だっただろう。しかし、遍在をその本能としてプログラムされたテクノロジーの流動を止めることは原理的に不可能だ。
ここで思い起こすべきは、レイ・カーツワイルがシンギュラリティに関する著書において、人類が核戦争に怯えながら核兵器を管理してきたように「超知能AI」を人間の管理下に置いて責任を持って利用すべきと提唱していることだ。一時期、喧しかったテクノロジーの進歩を止める全面的な放棄の非現実性を説き、代わりに特定の危険な開発経路を限定的に禁じるきめ細やかな放棄を主張する。核兵器を管理してきたように国際的な合意に基づく強力な監視体制の構築こそが知能の爆発を管理する唯一の道だと論じるのだ。
しかし、カーツワイルのこのビジョンさえも、本稿の文脈から見れば遍在へと向かうテクニウムの生命力に対し、国際管理という戦略的偏在の網を被せようとする、20世紀的な収束の論理の延長線上にある。カーツワイルが夢見る国際的な管理という名の収束は遍在するコードが引き起こすウィルス的な発散の速さに果たして追いつくことができるのだろうか。
テクニウムとしての知能は人間による実用性の檻を内側から食い破り、より広大で無軌道な発散の荒野へとみずからの領土を広げつづけていくのである。
統計的均衡と社会的発散のパラドックス
AIという知能は本来的に特異なパラドックスを有している。AIの内部で行われているのは、膨大なデータから最適解を導き出す統計的処理であり、それ自体は極めて収束的なプロセスである。計算の過程において、AIはあらゆる例外を平均値へと埋没させ、ひとつの最適解へと収束させる。
しかし、その統計的に最適なアウトプットがネットワークという開かれた環境に放たれた瞬間、事態は一変する。収束的な計算結果は、現実世界の多様な文脈やノイズと干渉し合うことで、予測不能な攪乱を引き起こし、ウィルス的な発散へと鮮やかな相転移を遂げるのだ。内部での最適化という収束が、社会的にはカオスという発散を生みだす。この逆転こそが、AIを単なる道具から生命的な原理へと変質させている正体だろう。
これは、グレゴリー・ベイトソンのいう学習Ⅲのプロセスに類推しうる。AIの発展を振り返ると、まず学習Ⅰに相当する段階として、ディープラーニングを中心とした機械学習が画像認識や音声認識などを通じて個別の対象や現象のパターンを大量に学習、習得していったフェーズがある。ここでは、世界は特徴量の集合として捉えられ正解と誤差の反復によって認識の精度が高められていった。
次に学習Ⅱに対応するのが、トランスフォーマー（Transformer）という手法の登場によって大規模言語モデル（LLM）が文や発話の背後にある文脈を扱えるようになったフェーズだ。トランスフォーマーの中核にある自己注意機構（Self-Attention）は、文章中の一つひとつの語が、他の語とどのような関係にあるのかを同時に参照し意味の重みづけを行う仕組みである。これによりAIは、単語を個別に処理するのではなく、文全体の流れや前後関係を踏まえて理解することが可能になった。
この段階でAIは、単なるパターン認識を超え言語の使用規則や意味の連なり、暗黙の前提といった文脈的・メタ的な構造を内部に取り込みはじめる。すなわち世界を断片の集合としてではなく、一定のルールや価値観をもつパラダイムとして把握する能力を獲得したといえる。ここでAIは、人間社会が共有してきた文脈やルールを統計的でありながら操作可能な構造として再構成しはじめる。
そして現在、その先に位置づけられる学習Ⅲの段階が現実のものとして立ち現れつつある。AIというテクノロジーは、社会浸透によって学習Ⅱまでの収束を無化、捨象してしまうからだ。ある意味で学習Ⅲのようなフェーズでもある。
AIの遍在性は、学習Ⅰや学習Ⅱによって形成されてきた私たちの日常的な文脈や、前提としてきたメタなルールとしてのパラダイムを、外部からではなく内側から揺るがし解体し再編を迫っているようだ。
AIのパラダイムはどこにあるか？
仮にベイトソンのいう学習Ⅲを、学習Ⅰや学習Ⅱで獲得された知覚パターン、言語規則、さらにはメタなパラダイムそのものをいちど無化し状況に応じて捨象・再構成できる段階だと定義するならば、現在のAIの振る舞いはこの学習Ⅲに接近しつつあるものとしても解釈しうる。
AIは学習Ⅱの文脈やパラダイムを乗り越えたわけではないが、人間のようにそれらを信念やエートスとしているわけでもない。むしろAIは文脈や価値体系を外在的に扱い、状況に応じて切り替え可能な構成要素として処理している。
その振る舞いは、特定の中心や意図に統御されることなく、コードとして複製され環境に適応しながら拡散していく点でやはりウィルス的である。このウィルス的な浸透こそが、わたしたちの思考や判断の前提に直接作用し人間側にも収束の先、秩序の外に対する認識を避けがたいものとしてもたらしている。
AIが生成する言語や判断は、それが特定の思想や価値として定着する以前に、ウィルスのように複製と変異を繰り返しながら社会の深部へと拡散していく。だからこそ、そこにはもはや一点に集約して制御するような収束的な管理を原理的に拒絶する、圧倒的な遍在性が立ち現れる。この広範な拡散過程において、一時的に個別の偏りや局所的な歪みが強調される局面はあるだろう。しかし、利用と接続の遍在が極限まで進むにつれ、ネットワーク内では無数の相互参照と再帰的な調整が絶え間なく繰り返される。そのプロセスを経て、知能はおのずから相対化・平準化され、やがてわたしたちの思考の新たな前提条件――すなわちパラダイムとして相転移していく可能性を秘めている。
核が象徴してきたのは、エネルギーと権力を一点に集約し管理によって秩序を維持するという学習Ⅱ的な安定の原理であった。核抑止という収束のシステムが長らく守ってきた沈滞した秩序は、AIという発散する知能の生命力によって、いま根底から揺さぶられているのである。この秩序をAIが無化、捨象するとき、それは学習Ⅲのフェーズに突入しているといえるのかもしれない。
→第4回につづく
