EU（欧州連合）のAI利用に関する規制案から
コロナは監視社会を容認させたのか？

コロナは私たちの「自由」をどう変えたのか。EUのAI規制案を手がかりに、監視社会・プライバシー・公益のバランスを巡る日本と欧州の違いを検証する。

目次

• EU（欧州連合）のAI利用規制案をどう読むのか
• 言葉は同じでも中身が違っていた「人権」
• コロナが露わにした各国の人権意識の差
• コロナ対応では公益志向が発現しなかった日本
• ザル法にならざるを得なかったEUのAI規制案
• AI利用とプライバシーについて正面から議論するべき時期に来ている
• 社会課題を解決できないテクノロジーは消えていく

EU（欧州連合）のAI利用規制案をどう読むのか

EU（欧州連合）がAIの利用に関する規制案を公表したというニュースは日本でも大きく取り上げられました。監視社会につながる懸念から世界で議論になっている、公共空間で顔認証システムを使った捜査を制限する案です。この規制案によって、市民の権利侵害を防ぎ、企業のAI研究と利用に関するルールづくりで先鞭をつけるという狙いがあります。

EU行政府の欧州委員会はこの規制案の中で、AI利用がもたらすリスクを4段階に分類しており、最も危険な「禁止すべきリスク」として、公の場で警察などの公権力がリアルタイムで顔認証などの生体認証技術を使って捜査することや、政府による個人の信用格付けなどを挙げています。

2番目に危険な「高リスク」分類では、企業の採用面接や教育現場での試験の採点、国境管理などを例示し、利用時には事前に審査が必要だとしました。禁止項目に違反した場合、最大で3千万ユーロ（約40億円）か、世界売上高の6%のどちらか高い方を罰金として科す規定も設けています。

規制案の狙いは、市民の基本的権利を守り、AIを安心して使える環境を整えることです。特に規制が必要としているのが、顔認証技術を用いた警察捜査です。

顔認証技術は、カメラがとらえた人の顔画像をAIが分析し、事前に登録された顔画像と突き合わせることで、特定の人物を洗い出せるため、多くの国々の捜査当局が凶悪犯の捜査などへの活用を期待しています。しかし、欧州委員会は公共の場での利用は、行方不明の子どもの捜索や差し迫ったテロの脅威を防ぐためなどに限定されるべきだとしています。

日本でも防犯カメラは街中の至るところに設置されており、「動く防犯カメラ」とも言われるドライブレコーダーは2019年の国交省の調査では、装着率が45.9%と約半数に上っています。これらのカメラから取得された顔画像をもとにいくつかの凶悪事件が解決されていることから、すでに顔認証技術は警察の捜査の主力として大きく貢献していると推測されます。

このことは、日本のような防犯カメラがたくさんある社会では、公共空間で知らない間に顔画像が記録され、プライバシーが侵害される可能性があることを示唆しています。一方で、こうした手法による治安の維持には、一定の公益があるとも考えられます。

私たちは、プライバシーの保護と公共の利益のバランスをどうとるべきなのか、AIにどこまで個人情報を渡すべきなのかを議論し、合意形成を図る時期に来ています。

本稿では、議論のための材料として、今回のEU（欧州連合）規制案が出てきた背景とコロナを契機として露わになった各国の人権に対する意識に触れながら、テクノロジーと人間の対峙のあり方について、考察を試みます。

言葉は同じでも中身が違っていた「人権」

アメリカやヨーロッパや日本など、いわゆる民主主義を標榜している西側諸国と呼ばれる国々では、自由と人権は尊重されるべきものだという共通理解があります。

しかし、実は人権の捉え方は国によってかなり多様性があります。世界中で人権（human rights）という言葉を用いますが、それが具体的に何を指していて、それに紐づくどのような権利が認められて、憲法をはじめとした法律で規定されているのか。その権利を行使するということは、誰にとっての権利や利益なのか、誰にとっての自由であるのか。また、その権利を行使することによって何らかの制約を受ける人々がいる場合、それは果たして誰なのか。これらの考え方が国によって異なるのです。

比較法制研究に詳しい憲法学者などは百も承知だったのですが、権利に対する解釈の多様性によって生じる相違や矛盾をすべて解消しようとすると、国際的な議論が成立しなくなります。そのため、国際機関等での検討において、細かな解釈の違いは捨象されることがしばしばありました。国によって文化によってそれぞれ法律があり、ヨーロッパの法律を日本で守る必要はないわけですし、逆もまたないわけです。そこで、目指している理想像、ありたい姿としての国ごとの最大公約数として、人権などの基本的権利については議論されてきました。ただ、言葉（記号）だけは揃っているけれども、そこから先についてはお互いに議題にしないというのが暗黙の了解だったわけです。

私はOECDの作業部会に参加していた際、プライバシーガイドラインのアップデートに関する議論に立ち会いました。プライバシーガイドラインの作業部会は20カ国以上が参加していて、会議が長時間になると帰りの飛行機に間に合わない人が出てくるので、通常はその場では込み入った話はしません。ただし、本当に重要な文書をまとめなければならないときには、たった一つの単語を使うか使わないかで、1カ月くらい議論することもあります。国ごとの考え方の違いをまとめるのはそれぐらいタフな話なのです。

こうした考え方の格差を、平時には詳らかにしないで、風呂敷をかけて人権という尊い考え方を「リスペクトします」という姿勢を取ってきたわけです。守りますとか行使しますとは言わないわけです。

コロナが露わにした各国の人権意識の差

平時にはそれで済んでいた話でしたが、新型コロナウイルスの流行によって、それぞれの国の人権意識、プライバシーに対する意識、政府や法執行機関と市民の意識がまちまちな状態であることが浮き彫りになりました。

コロナは人の命がかかわる事態です。権利の中でも命と金を比べると、命の方が優先されるわけで、あの中国でさえも建前の上では命の方が大事だと言っています。コロナは命の問題であるとなった途端に、それぞれの国のプライバシーや人権にかかわるシビアな問題が露呈しました。

例えば、監視です。コロナは人と人が密に接触すると感染しやすい状況が生まれる感染症です。そこで、都市部では人の動きを可視化しようという動きが出てきて、今でもそれが重要な対策になっています。日本でも、渋谷のスクランブル交差点や東京駅で、人出の増減を測定していますが、当然カメラで監視しなければできないことです。しかも高精細カメラでなければ人の数はカウントできないので、ズームすれば個人を特定することも不可能ではありません。実際にはそんな運用はしていないし、それを慎むようにしているわけですが、これをもって監視だと言う人もいるでしょうし、その主張には一度耳を傾ける必要がある。

これを監視と捉えるか、それとも公衆衛生にかかわる多くの人にとっての利益（公益＝パブリック・インタレスト）を達成するための重要な手段であると捉えるか。この認識が国によって全然違うわけです。日本のようにカメラの使用に何の制限もなくおかしいと声を上げる人が少ない国もあれば、街中にカメラを置くことに対して市民がアレルギー反応を示す国もあります。冒頭で欧州の規制案に触れましたが、それだけでなく、公的機関によるカメラ利用は、米国の方が日本よりも規制が厳しいという一面もあります。

あるいは行動制限です。自由に行動・移動するというのは、基本的な権利の最たるものですが、これがロックダウンという形でフランスやイギリスでは制限されました。幸い（と言っていいかどうか微妙ですが）、日本やドイツでは強権的なロックダウンは行われることなく、自粛という形で「国民の良識」に行動を委ねられました。

フランスは、平時には人権意識が非常に高く、個々の権利について大事にしている国ですが、コロナ対応では厳格にロックダウンやシャットダウンをして、従わない者は逮捕するというように、強権的に個人の権利利益を制限する施策を取りました。平時にはプライバシーについて非常に大事にするけれども、いざというときには、防犯のためになどという美辞で隠すことなく監視もするし、行動制限もするわけです。

これはこんなふうに説明できるかもしれません。日本人やドイツ人は政府を信頼し、政府の指示に割と従順であり、周囲への同調性が高いことで、強権的な制限を必要としなかった。一方フランスは個人の権利意識が高いので自粛という曖昧な形ではなく明示的な刑法によって制限しなければならなかった。政治学（とりわけ政治文化論）では、前者を臣民型、後者と市民型と呼ぶことがありますが、特に政府との関係における国民性の違いが、公益や人権の考え方に影響を及ぼしていのではないか、ということです。

ただ、結果として、どちらが良かったのかはわかりません。日本でもドイツでもフランスでもコロナ禍が収束する兆しは見せていません。仮に臣民型が優れているとしてみたとしても、日本とドイツでは感染に係る状況がまったく異なるので、仮説は崩れます。私達は思いのほか、厄介な問題と向かい合っているのです。