EU最新AI規制が問いかける“監視社会”の未来
AIは人の何を管理するのか？

コロナ禍のなか、人々は監視されることに慣れはじめている。公衆衛生への意識がひときわ高まり個人への制約や制限もやむなしとの空気が蔓延する。しかし、すこし前を思い出してみると、個人情報の取得はことほどスムーズに社会に浸透するとは考えられていなかった。

目次

• 冷戦時代のバイブルが思い出されるまで
• 監視とプロパガンダ、規律と環境
• 管理されることのプロフィット
• AIのファスト＆スロー
• AIが手に入れようとしている権力

冷戦時代のバイブルが思い出されるまで

欧州連合（EU）がAIの利用を制限する方針を示したのは4月22日だ。個人の自由と権利を守るというのがその主旨である。2018年5月にEUで施行されたGDPR（EU一般データ保護規則）からの流れを踏襲したものだが、昨年来の新型コロナウィルス感染拡大防止策として、欧州各国はむしろ個人の行動を規制していた時期だけに意外の感があった。

今回の規制案では、AIの利用によっておこると予測されるリスクを、

という４段階に分けて制限をかける。いずれも人間の生命や個人の尊厳にかかわるリスクである。

最も厳しい①禁止にあたるものとして、AIカメラによる公共の場での常時監視が例となっている。こうした類の監視はたとえ警察によるものであっても禁止となる。

今回の規制が非常にヨーロッパ的に感じられるのは、個人主義が根付いた文化である以上に、全体主義的な監視社会に対する警戒感が他の大陸に比して強い点がある。ムッソリーニのファシスト、ヒトラーのナチス、スターリンのソビエトと挙げれば、全体主義の悪しき例には事欠かない。

ヨーロッパ人は全体主義国家を決して繰り返してはならない歴史の厄災だと思っている。ドイツ再統一、ソビエト崩壊を経て危惧の高まりは一段落したかに見えたが、思わぬところから監視社会が忍び寄っていたのだ。

ソビエト崩壊前まで、西側諸国ではアンチ監視社会のバイブルのようにジョージ ・オーウェルの小説『1984』（高橋 和久訳/ハヤカワepi文庫)が読まれていた。書かれたのは第二次世界大戦直後の1949年である。米ソ冷戦の幕開けの時期と重なる。80年代までディッド・ボウイがこの小説をモチーフにした曲を発表するなど、リベラルな知識人の教養であった。『1984』の世界では、「テレスクリーン」と呼ばれる装置で人々のすべての行動が監視されている。テレスクリーンは一種の双方向テレビのようなもので、画像のみならず音声も記録し監視している。

ソビエト崩壊によってしばらく忘れられていたこの名作がふたたび脚光を浴びるようになるのは情報社会の発展によってだ。インターネットとAIカメラが容易にテレスクリーンの情報網を想起させることは言を俟たない。より巧妙に緻密に個人を監視しうるテクノロジーの登場が新たなリスクと認識されるに至っている。

監視とプロパガンダ、規律と環境

情報社会がもたらす監視のあり方を哲学者の東浩紀が「環境管理型権力」（『情報環境論集―東浩紀コレクションS』講談社ほか）と称したのはゼロ年代だ。それまでのパノプティコン型の一望監視のそれとは違い、わたしたちをとりかこむ環境そのものがわたしたちを管理している状況をいう。

アマゾンやYouTubeのレコメンドのように、わたしたちがみずから好んで環境に管理を委ねるのが環境管理型権力の特徴だ。GAFAに代表されるインターネットサービスはほとんどがこのシステムを内包している。

パノプティコン型の一望監視とは、ミシェル・フーコーが『監獄の誕生』（田村 俶訳/新潮社)で指摘した権力のあり方、すなわち「規律訓練型権力」の象徴的システムだ。監獄や病院あるいは学校などは、常時監視の可能性を与えることで、規律を個人の内面に刷り込む。監視されている可能性が念頭にあるために、わたしたちは躾けられて規律を外すことがなくなる。

AIカメラによる常時監視への警戒は、一見、規律訓練型権力へのそれと同じに思える。ゼロ年代以降の情報社会を支配したのが環境管理型権力だとすると、GDPRが危惧するのは規律訓練型権力のようにも見える。

しかし実際には、この２つの型の権力が合わされようとしているのが現在なのだ。

オーウェルの『1984』に登場するテレスクリーンには２つの機能がある。それは監視とプロパガンダだ。双方向性の装置であるテレスクリーンは人々を監視しつつ、国へのロイヤリティを高めるプロパガンダ放送を行う。

言いたいことはこうだ。現代社会に生きるわたしたちが晒されているのは、規律の内面化による支配のみならず、環境が絶えずプロパガンダする思想や文化の内面化（洗脳）による支配なのだ。

どこにいてもスマホを覗き込み、みずから環境に管理されている人のなんと多いことか。