データ社会が映し出す社会のかたち
学習院大学法学部教授 小塚荘一郎氏に聞く（２）
新しいテクノロジーの力によって、私たちの社会の問題は解決しうるだろうか。むしろ、見ない振りをしてきた問題さえ浮き彫りになってくることもありうる。AIの中立性を設計するプロセスにおいて、これまで見ないですませてきた社会の暗部を直視することが求められる。なぜなら、AIは私たちの社会が隠してきた問題を“見える化”してしまうからだ。
小塚 荘一郎（こづか そういちろう）
学習院大学法学部教授。博士（法学）。1992年東京大学法学部卒業。千葉大学法経学部助教授、上智大学法科大学院教授などを経て現職。研究テーマは商法、会社法、宇宙法など。総務省AIネットワーク社会推進会議構成員、経済産業省消費経済審議会会長。『フランチャイズ契約論』（有斐閣）、『支払決済法』（共著、商事法務）、『宇宙ビジネスのための宇宙法入門 第2版』（共著、有斐閣）、『AIと社会と法: パラダイムシフトは起きるか？』（共著、有斐閣）、『AIの時代と法』（岩波新書）など著書多数
目次
AIが潜在的な差別意識を可視化する
先日、アメリカの法学者であるローレンス・レッシグがツイッターで「LGBTQ+」や「BLM」などのワードがシャドウバンされることについて怒りのメッセージを発信していました。アメリカでは性的指向や人種問題についてはセンシティブですよね。
小塚 アメリカは、その点について非常にセンシティブです。AIについても、必ず差別の話題が出てきます。差別するようにAIを訓練することは論外ですが、意図がなかったとしてもAIが差別的なことを自然に学習してしまうことについても常に警戒されます。データ上では見えなくても、ディープラーニングでは中間層に何があるのかはわかりませんから。決して差別を許容するつもりはありませんが、「AIによる差別」が大きな論点となることは、やはりアメリカ的な文脈だと思います。
ヨーロッパとは異なる反省の経緯があるわけですね。
小塚 ヨーロッパが常にナチスを否定することから出発するように、アメリカは公民権運動の成果を覆してはならないということを出発点にしています。意識的にも無意識的にも差別をなくすよう努力してきたにもかかわらず、AIがそこをかいくぐってしまうことを彼らは問題視します。アウトプットとして差別をしてはならないとだけでなく、システムにもそれを許容しないのが、アメリカの文脈なのです。
データが、間接的に階層性を示すこともありえます。
小塚 たとえばフィンテックで金融業務にAIを導入して、対象者の人種は審査の要素に入れず、属性や行動から信用が認められればお金を貸すことにしたとします。それでも住んでいる場所や学歴から人種がうかがえる要素が出てきてしまって、結果的には特定の人たちが差別されることが起こり得ます。その場所にしか住めなかったり、大学に行けなかったりすることが顕在化することで、200年から300年にわたって行われてきた人種差別をようやく禁止するようになってきたにもかかわらず、それが無効化されてしまう。アメリカではそこが大きな問題なので、改善しようとします。日本国内にはアメリカのような人種差別はありませんが、今まで明らかにされてこなかった人権上の問題はたくさんあります。そこにアメリカの文脈で問題とされる論理を、そのまま持ち込んでも仕方ありません。日本社会には日本社会で、他国とはまた異なる点で目を背けてはいけない問題がありますから、そのことをAIがどう処理するのかを考えなければなりません。
そういうことを設計していく際には、見ないですませてきたものを、見なければなりませんよね。
小塚 そうです。AI固有の問題というより、それをきっかけに社会を見つめなおすことが必要になってきます。日本には、見えると不都合なものを見なかったことにして、そのために解決されずにきた問題がいくつも残されています。適切な制度設計をするためには、表面の綺麗な世界だけを取り繕うだけではいけません。アメリカの人種差別などについては、建設的でないものも含めて議論がなされていますが、日本では議論されてこなかったという問題にこそ目を向けなければなりません。
ヨーロッパにナチスへの反省があり、アメリカには公民権運動から人種差別への反省があって、過去を基準に新しいものを捉えていくとすると、日本の場合は過去を反省せず、それを覆い隠すように新しいものを使いすぎている気がします。ヨーロッパでは、ナチスに共感する発言をすれば思想犯になりますし、アメリカでも明確な黒人差別をすれば社会的な立場が危うくなります。一方、日本では戦時中の社会への反省があるかというとそうでもありません。
小塚 やはり、昭和後期までは戦争経験者もたくさんいましたから、何が行われたのかについて、一応のコンセンサスはできていました。そこを曖昧にしてきたことで、その後の世代で分断が進みました。見なくてはいけないものを見ずにすごしてきたことで言葉のレベルだけで対立が生じたわけです。
問題の本質に無関心のままでは、社会のブラックボックスがそのままAIやオンラインのブラックボックスに移行して増幅してしまう。
小塚 逆にネット上でヘイトが蔓延することもあります。特に日本のネット上の言論については、2ちゃんねる（現・5ちゃんねる）にみられたように、匿名で過激なことを発言することで溜飲を下げる文化がありましたから、そこは問題です。
新しいデータ社会の秩序をどのように形成していくのか
アメリカでは2ちゃんねるの英語版である4chが陰謀論の温床になっています。現在はプラットフォーマーの法的責任はどのようになっているのでしょう。
小塚 日本の法律家は、プラットフォームとして配慮すべきことというのが存在すると考えています。無法地帯のようなプラットフォームで詐欺や誹謗中傷被害がたくさん起こったときに、プラットフォーマーが何らかの配慮をするべきだという考えは、日本社会にもある程度は根付いてると思います。これに対して、プラットフォーム側の主張は、あくまで場を設けているだけなので自分たちをプレーヤーだと見なさないでほしいということです。媒介したことで、問題を起こした人と同じ責任を負うことは避けたいので、プラットフォーマーは、必要に応じて警察にも協力するようになっています。
インターネット黎明期のカウンター・カルチャー的な姿勢とは遠く離れていますね。
小塚 自律的な秩序を謳っていたものの、無秩序でアナーキーな世界になってしまったのがインターネット1.0の世界だった思います。当時は社会主義陣営が倒れた冷戦直後でもありましたから、自由競争を通じてよりよいものが生き残っていくのだという楽観主義があったんです。今の私たちはその悪しき面も見ていますし、世界的には権威主義国家である中国が大国になっています。市場競争が間違っていたかと思っていたら、新冷戦どころか旧戦争のようなことが起こりはじめました。今ではインターネットについての社会的な認識が逆転しています。そうしたなかで、新しいデータ社会の秩序をどのように形成していくのかが問題になっていきます。
そうすると、リアルな社会秩序のありようも問いなおされていきますね。
小塚 ヨーロッパが目指しているのは、政治学でいう中道左派的なリベラリズムだと思います。1940年代に第2次世界大戦があり、その傷が癒えたと思ったころにユーゴスラビアの内戦があった。そして現在はウクライナ戦争の渦中にあります。彼らには戦争を目の当たりにしてきた歴史がありますから、リベラルな秩序が基本になります。アメリカは地政学的な立場もヨーロッパとは大きく異なりますので、マーケットの規律が社会的な規範になってきます。また、よく誤解されるのですが、中国のテック業界は自由競争で、そこはアメリカとよく似ています。政治体制の根本が権威主義的なだけで、冷戦時代のように隅々までコントロールされているわけではありません。
その意味では日本というのは曖昧ですね。
小塚 ヨーロッパのように人権や社会民主主義的な秩序を強調するわけでもありませんし、もはやアメリカや中国に比肩するビジネススケールや勢いもありません。他方で権威主義的な統制には反発が大きい。その証拠にマスクの着用1つとっても法律化できないわけです。
責任を持たずに匿名で物事を進める傾向もあります。
小塚 ここも両義的です。把握されることへの嫌悪感も強く、マイナンバーカードが批判されるように、匿名性にこだわるところがあります。他方では、ひとたび誹謗中傷が起こると一斉に名指してバッシングが起きたりもします。
