情報戦略は私たちを誘引する
戦争と政治における心理

マイ・フェア・レディは機械仕掛け

脱感作と条件づけによって引き起こした行動について、人間の心理が無反応なわけではない。実際にベトナムから帰還したアメリカ軍の兵士たちは、こぞってPTSDに悩まされることとなった。
1つには命を奪ったという事実に直面した個人として、もう1つは長引いた戦争のうちに芽生えた反戦ムードによる世間的な非難によってである。彼らの心理的恢復と社会復帰のためには、心理カウンセリングが必要だった。しかし臨床心理学者カール・ロジャーズが確立した来談者中心のカウンセリング技法は当時まだノウハウも人材も不足しており、多くの患者に対応することは不可能だった。

こうした背景のもと1966年に当時MITで計算機科学を教えていたジョセフ・ワイゼンバウムにより考案されたのが、機械が事前にプログラムした想定問答に応じて患者に応答するシステムELIZA（イライザ）である。
いわば最初期のチャットボットだが、クライアントには機械であることは知らされていなかった。
強化学習機能やネット検索機能を搭載しない、人工知能にたいし“人工無能”といわれるプログラムではあるが、クライアントは積極的に自己開示を行い、その姿にワイゼンバウム自身が驚いたという。
さきに記した非人称化の脱感作とは逆に、人は知的なものを感じると、そこに意思を見出そうとする性向があるらしい。これは現在においても変わらないようだ。
生成AIが登場した当初は、誤っていたり不自然だったりする回答内容が盛んにあげつらわれたものの、いま私たちの多くはネットニュースのAI要約やSNS上のボットユーザーを違和感なく読み流しているのが実状だ。
ワイゼンバウムは人々がプログラムとの会話に没入する“ELIZA効果”で得た経験から、AIに意思決定を任せるべきでないとする批判を行うようになった。

ELIZAという呼称はミュージカル「マイ・フェア・レディ」の原作であるバーナード・ショーの戯曲『ピグマリオン』の登場人物イライザ・ドゥーリトルにちなむ。
ミュージカルは、下町の娘だったイライザを言語学者ジャック・ヒギンズが上流階級にふさわしい話しかたとマナーを身につけさせて結ばれるというシンデレラ・ストーリーだが、階級社会への風刺として描かれたショーの戯曲では淑女としての振る舞いを身につけたイライザは、ほかの男性と結婚すると言い残してヒギンズのもとを去り、ヒギンズはいつしか抱いていたイライザへの愛情が失われたことを実感する。
この関係を現代に持ち込み、AIボットやアバターと人間との関係に敷衍すると、きわめて皮肉な結末を予見することになりそうだ。

精神医学においては、クライアントが治療者に、愛憎の感情を抱くことを「転移」と呼ぶ。精神療法において、クライアントは過去の経験や他者への感情を含む自己開示を行うため、その過程で治療者その人に特別な感情を抱きやすい。
もちろん治療者がクライアントに個人的感情を抱くことは、医療倫理として強く戒められている。
しかしAIボットやアバター相手であればどうだろう。多くの人にとってVTuberなどに“ガチ恋”することは絵空事のように思えるかもしれないし、コンテンツを離れてから架空のキャラクターに感情移入することも現実的ではないかもしれない。
しかし意図せずにアルゴリズムにより選択されたコンテンツや、生成されたメッセージであったりすれば、自己開示のブレーキがかからないことは容易に想像される。
PCやスマートフォンを手にしたことがある人なら、フィルターバブルやアテンション・エコノミーから自由になれないことを自覚しているだろう――もし自覚していなければ、残念ながらどっぷりそこに浸かっていることになる。