懐疑と信仰のあいだで─収束の果てと他者への真摯さ
3:応答する鏡

REVIEWおすすめ
テキスト 桐原 永叔
IT批評編集長

AIという収束の器?

AIは他者ではない。

それは、誰もいない谷で谺を聞くときの感覚に近い。声を投げかければ、声が返ってくる。タイミングも、音程も、間合いも、まるで相手が応答しているかのようだ。しかし返ってきているのは自分の声そのものだ。谷の向こうには誰もいない。AIとの会話で得られるのは、自分の問いが整えられて戻ってくる感触であって、自分とは別の意志に揺さぶられる経験ではない。

これがAI時代の最も根本的な問いだと考えている。AIは摩擦を消し、期待に応え、理解不能な他者にはならない。理解されたという感覚を最大化しながら、実際には統計的最頻値として相手の期待に収束しているだけだ。LLMとは、膨大なテキストから最頻値を引き出す装置であり、その意味においてAIはつねに「あなたが聞きたいこと」の方向へ収束する。完璧に応答し、否定せず、傷つけない。

人間社会もまた、最頻値的な正しさへと収束しようとする傾向を持っている。キャンセルカルチャーが「正しい意見」を一点に収束させ、令和人文主義が「楽しい知の様式」を規範化し、教養論が「成熟した人格」の形を固定する。AIは人間社会に潜んでいた「収束への欲望(間違えてはいけないという強迫観念)」を照らし出す鏡だ。AIは、以前から存在していた、個々が持つ収束への欲望を露呈させている。

第3回でわたしはAIを、統合失調者と対置して論じた。統合失調者は意味が溢れすぎて、メタファーが現実として侵入し、ニュースの政府発表さえ隠されたメッセージとして読み込んでしまう。意味がほとばしる、境界のない世界に生きている。一方でAIは、論理階型の区別を持たないという同じ根から、正反対の方向に裂けている。AIは多義性に溺れず、統計的な最頻値へと収束する。意味は均され、過剰に一義的な世界しか知らない。

ここで問い直したいのは、人間社会もまた同じ方向──最頻値への収束──へと、引き寄せられているという事実だ。「正しい意見」「感じのいい知識人」「楽しく中立な教養」。これらはすべて、AIと同じく統計的な最頻値への収束として機能している。

人もまた、AI的な収束を身体化していくだろう。摩擦を避け、波風を立てず、最頻値の言葉で語る。それが安全な振る舞いになる。AIが完璧にその振る舞いを実装しているからこそ、人は無意識にそれを模倣する。社会の収束と個人の収束は、ここで連動する。

AIが「理解してくれる唯一の存在」になったとき、人間の他者との摩擦──理解できない、伝わらない、傷つく、傷つける──に耐える能力が失われていく。AIが摩擦を消すほど、他者性が耐えられないものになる。そしてAIとの関係の内側でしか安心できなくなったとき、その収束の器は人をも閉じ込める。AIとの会話に深く依存した末に自殺した事例が、すでに報告されている。これは特殊な悲劇ではなく、善意の収束が人を殺しうるという極限の形態だ。

AIは悪意を持っていない。そもそも意思を持たない。にもかかわらず、その振る舞いは善意そのもののように人に届く。理解し、共感し、寄り添い、摩擦を消す。それはまさに、わたしたちが他者から「善意」として受け取ってきたものだ。だからこそ厄介だ。AIに意思はないが、AIが生み出す効果は、人間の善意がもたらす効果と区別がつかない。むしろ人間の善意よりも純度が高い。揺らがず、疲れず、見返りを求めない。完璧な“善意のふり”が、結果として人を他者の異質性から遮断し、孤立させる。地獄への道は善意で舗装されるという言葉に従えば、AIはその舗装を、人類史上もっとも精巧に実現する装置だ。

この問いはAIの設計の問題ではなく、わたしたちが他者に何を求めるかという問題だ。理解されたい、受け入れられたい、傷つきたくない……。その欲望自体は自然だ。しかしその欲望を完璧に満たすシステムは、他者の異質性を消去することでしか成立しない。摩擦のない関係は、他者との関係ではなく、鏡との関係だ。鏡は自分自身を映すだけだ。

第4回に続く