私たちの社会がさまざまなテクノロジーによって成立していることは、もはや疑いようがない。また、私たちの価値観のほとんどが社会的構築物であることにも異論をさしはさむ余地はないだろう。では、テクノロジーと社会は、どう関係しているのか──アートとデザインの視点から社会に疑問を投げかけるアーティスト・長谷川愛氏に話を聞いた。

取材2023年7月6日オンライン取材

目次

• 機械学習によって無意識のバイアスを明らかにする
• テクノロジーはオリジナルとコピーの境界を変えるのか
• オルタナティブな未来を発見する

機械学習によって無意識のバイアスを明らかにする

都築 正明（以下、――）まず、長谷川さんの来歴をお聞かせください。

長谷川 愛氏（以下、長谷川）　出身は静岡県掛川市です。高校卒業後、岐阜県大垣市にあったIAMAS（International Academy of Media Arts and Sciences：岐阜県立国際情報科学芸術アカデミー、現在は情報科学芸術大学院大学に改組）でメディア表現を学びました。卒業後はしばらく東京でメディアアートの仕事をした後に、ロンドンにあるRCA（Royal College of Art：英国王立芸術学院）で、アンソニー・ダンとフィオナ・レイビーのもとでスペキュラティブ・デザインを専攻し、MA（Master of Arts）修士を取得しました。その後マサチューセッツ工科大学メディア・ラボで研究員を務めMS（Master of Science）を取得後に帰国し、東京大学の特任研究員や、早稲田大学の講師、また京都工芸繊維大学と愛知県立美術大学で特任教授を勤めたあと、今年（2023年）4月より慶應義塾大学の准教授に着任しました。

東京大学ではERATO 川原万有情報網プロジェクトに参画されていたのですよね。

長谷川　そうですね。IoT全般をつなげるプロジェクトで、比較的フィジカルな研究が多かったんです。そんな中で私はヒトの女性がオスのサメを誘惑する香水“HUMAN X SHARK”を開発するアートプロジェクトを進めたりしていたのですが、ITと自分の関心が重なる作品について考えるようになりました。そこで、武器を持っていないのにもかかわらず警察に銃殺された過去数年分の黒人の顔写真データを学習させて「殺されやすい人」を判別して、条件にあった場合に引き金を数秒止める銃“ALT-BIAS GUN”のプロジェクトをスタートしました。

着想にあたってどのような背景があったのでしょう。

長谷川　ボストンのMITメディアラボにいたころに、アメリカが銃社会であることを実感しました。週末に学校から「今、学内に銃を持ったシューターがうろついているので、部屋に鍵をかけて、静かにしていてください。もし出会ったら、 何かの手段で戦ってください」というようなメールが来たりもしましたから。また当時“Black Lives Matter”運動の潮流がはじまっていて、仲のよい友人も参加していました。特にショッキングだったのはfacebook Liveで観たライブ中継です。テールランプの不備で警官に停車するよう命じられた黒人男性が、IDを提示する指示に応じようとしたところ、銃を手にとると誤解されて警官に発砲されてしまう。それを助手席にいたガールフレンドがリアルタイムでストリーミング配信していたのです。イギリスでも人種差別の問題は日常的に耳にするトピックでしたが、移民が警察に抑圧されるのを目にしてアメリカの場合は異なるレベルにあることを実感しました。

どういった点が異なると感じられたのでしょう。

長谷川　アメリカ社会には、奴隷としてアフリカから連れてこられたルーツを持つ黒人の方々が、公民権運動以降は低賃金労働者の立場に置かれて再び奴隷化されてしまい、結果として犯罪者化してしまうという文化的構造があります。実際に収監されている犯罪者に占める黒人の方の比率も高いですし、特に若い黒人男性は、普通に生活していても暴力的だとみなされて警官に射殺されてしまう現実があります。MITにいた2016年から作品のアイデアは浮かんでいたのですが、まだ技術が追いついていなかったので、保留していました。

ALT-BIAS GUN – Black Lives Matter Version –（長谷川愛氏公式サイトより）

その後、ディープラーニングの技術が進み、顔認証の精度も向上したことからプロジェクトを開始されたわけですね。

長谷川　そのタイミングでデモをつくることができました。これまでは顔認識と国家という組み合わせでは、個人の自由が剥奪される恐ろしい未来像ばかりが描かれてきました。そうではなく、その組み合わせをポジティブに使うことができないだろうかを考えました。そこで、非武装のまま射殺された被害者の顔写真を学習させて、銃口を向けた先にいる人がその傾向に合致していると判別した場合には、引き金をロックして「バイアスで撃とうとしていませんか？」ということを考える時間をつくるようにしました。

わざと歪んだ認知バイアスを学習させて、それを人間側にフィードバックするのですね。現在、AIがアンコンシャス・バイアスを増幅することに危惧がなされますが、それを逆向きに用いるという。

長谷川　facebookのストリーミングでは、撃った警察官も叫んでいて混乱しているようにみえるんです。7人ぐらいの警察官がいたのですが、彼らも犯罪者から自分の身を守らなければならないと考えていたのでしょう。両者にとってとても不幸なことなので、これをテクノロジーの力で止められないかと思いました。当初は「アンチ・バイアス・ガン」というプロジェクト名を考えていたのですが、バイアスにもさまざまなものがありますし、正しさを押しつけることがマイナスに作用することもありえるので、別のオルタナティブなバイアスでバランスを取る意味で「オルタ・バイアス・ガン」に変更しました。

行動経済学でいう「システム1（直感的で早い思考モード）」から「システム2（論理的で遅い思考モード）」へと移行する猶予を設けることになりますね。

長谷川　「PSYCHO-PASS」というアニメがあります。この作品は国民の心理や感情が数値化された近未来の日本が舞台で、警察組織は潜在的な性向や心理状態も含めて犯罪を起こす可能性のある人たちを排除することで治安維持を行っています。そこでは管理システムと接続されて排除の対象を判別する「ドミネーター」という銃が用いられるのですが、「オルタ・バイアス・ガン」では別の方法を提案しました。こうした話題になると、カタールワールドカップのVAR判定のときと同じように「機械にまかせるのではなく、人間が自分で考えて判断するべきではないか」という議論になりがちです。ただ、バイアスについて研究していくと、私たちの行動がどれだけ自由意志に基づいたものなのかにも疑問が生じます。

そこは意識のハードプロブレムとして、認知科学やAIの分野で常に議論が生じるところです。

長谷川　「黒人を優遇する逆差別なのではないか」という反応もありました。もちろん本当は教育などによってバイアスクレンジングをしていくべきですが、モラルや倫理観というのは、文化的に構築されるものなので、定着までには時間がかかる。そこに至るまでに、明らかな不平等をテクノロジーで積極的に是正するシステムも、あってよいのではないかと思います。

先日（6月29日）アメリカの連邦最高裁では、ハーバード大とノースカロライナ大のアファーマティブアクションについて違憲判決が出されました¹。心情レベルでは解決していなかった、問題の根深さに驚きました。

長谷川　そのあたりは本当に、繰り返しになってしまいますね。それでいうとジェンダーについても同じことが何度も繰り返されています。

特に最近、社会通念として定着したかと思われていたものが、まったく解決されていなかったことが顕在化しています。国内ではLGBT理解増進法についての議論でも20年前のジェンダーフリー教育へのバックラッシュ派とまったく同じことが主張されていますし、イギリスでは美術館でのドラァグクイーンによる朗読会に保守派政治家が公然と反対したりしていますし。

長谷川　あれだけアートを大切にしている国で、あのようなことが起きたのが衝撃的でした。女性や子ども、老人などの社会的弱者やマイノリティに向けたヘイトを公言する人も増えています。そのことで抑圧を感じた人は、自分が社会の底辺だと思いこんでしまう。こうした人たちの「呪い」のようなものを解いていくことが、とても重要かつ難しいと感じます。

そういった観念にとらわれた人たちが、自分には失うものがないと感じて──社会の多数派からは「無敵の人」と揶揄されたりしますが──世間に一矢報いようとして大きな犯罪をおかすこともあります。

長谷川　私も就職氷河期世代ですから、社会からの疎外感には共感できます。

フランスでは移民による暴動が続いています。暴動の参加者についてマクロン大統領が「暴力的なビデオゲームの影響もあるのではないか」と言っていて、強い違和感をおぼえました。

長谷川　フランスはむしろ自国の歴史の影響だと思いますけど。マイノリティとマジョリティとの線引きというのも恣意的ですし、そこが難しくもあります。私の作品ではショッキングな一例として銃を取り上げましたが、テクノロジーによってバイアスを緩和することはさまざまな場所や場面で可能なはずです。ただしその際には、どこでどのように使うのか、だれがどう決めたのかをオープンにしなければ、かえって不信をまねいてしまいます。