データ社会が映し出す社会のかたち
─学習院大学法学部教授 小塚荘一郎氏に聞く（２）
新しいテクノロジーの力によって、私たちの社会の問題は解決しうるだろうか。むしろ、見ない振りをしてきた問題さえ浮き彫りになってくることもありうる。AIの中立性を設計するプロセスにおいて、これまで見ないですませてきた社会の暗部を直視することが求められる。なぜなら、AIは私たちの社会が隠してきた問題を“見える化”してしまうからだ。
取材：2023年4月14日 学習院大学小塚研究室にて
 |
小塚 荘一郎（こづか そういちろう） 学習院大学法学部教授。博士（法学）。1992年東京大学法学部卒業。千葉大学法経学部助教授、上智大学法科大学院教授などを経て現職。研究テーマは商法、会社法、宇宙法など。総務省AIネットワーク社会推進会議構成員、経済産業省消費経済審議会会長。『フランチャイズ契約論』（有斐閣）、『支払決済法』（共著、商事法務）、『宇宙ビジネスのための宇宙法入門 第2版』（共著、有斐閣）、『AIと社会と法: パラダイムシフトは起きるか？』（共著、有斐閣）、『AIの時代と法』（岩波新書）など著書多数 |
目次
すべてがテクノロジーに代替されるわけでもなく、すべてが法で割り切れるわけでもない
AIが潜在的な差別意識を可視化する
――先日、アメリカの法学者であるローレンス・レッシグがツイッターで「LGBTQ+」や「BLM」などのワードがシャドウバンされることについて怒りのメッセージを発信していました。アメリカでは性的指向や人種問題についてはセンシティブですよね。
小塚 アメリカは、その点について非常にセンシティブです。AIについても、必ず差別の話題が出てきます。差別するようにAIを訓練することは論外ですが、意図がなかったとしてもAIが差別的なことを自然に学習してしまうことについても常に警戒されます。データ上では見えなくても、ディープラーニングでは中間層に何があるのかはわかりませんから。決して差別を許容するつもりはありませんが、「AIによる差別」が大きな論点となることは、やはりアメリカ的な文脈だと思います。
――ヨーロッパとは異なる反省の経緯があるわけですね。
小塚 ヨーロッパが常にナチスを否定することから出発するように、アメリカは公民権運動の成果を覆してはならないということを出発点にしています。意識的にも無意識的にも差別をなくすよう努力してきたにもかかわらず、AIがそこをかいくぐってしまうことを彼らは問題視します。アウトプットとして差別をしてはならないとだけでなく、システムにもそれを許容しないのが、アメリカの文脈なのです。
――データが、間接的に階層性を示すこともありえます。
小塚 たとえばフィンテックで金融業務にAIを導入して、対象者の人種は審査の要素に入れず、属性や行動から信用が認められればお金を貸すことにしたとします。それでも住んでいる場所や学歴から人種がうかがえる要素が出てきてしまって、結果的には特定の人たちが差別されることが起こり得ます。その場所にしか住めなかったり、大学に行けなかったりすることが顕在化することで、200年から300年にわたって行われてきた人種差別をようやく禁止するようになってきたにもかかわらず、それが無効化されてしまう。アメリカではそこが大きな問題なので、改善しようとします。日本国内にはアメリカのような人種差別はありませんが、今まで明らかにされてこなかった人権上の問題はたくさんあります。そこにアメリカの文脈で問題とされる論理を、そのまま持ち込んでも仕方ありません。日本社会には日本社会で、他国とはまた異なる点で目を背けてはいけない問題がありますから、そのことをAIがどう処理するのかを考えなければなりません。
――そういうことを設計していく際には、見ないですませてきたものを、見なければなりませんよね。
小塚 そうです。AI固有の問題というより、それをきっかけに社会を見つめなおすことが必要になってきます。日本には、見えると不都合なものを見なかったことにして、そのために解決されずにきた問題がいくつも残されています。適切な制度設計をするためには、表面の綺麗な世界だけを取り繕うだけではいけません。アメリカの人種差別などについては、建設的でないものも含めて議論がなされていますが、日本では議論されてこなかったという問題にこそ目を向けなければなりません。
――ヨーロッパにナチスへの反省があり、アメリカには公民権運動から人種差別への反省があって、過去を基準に新しいものを捉えていくとすると、日本の場合は過去を反省せず、それを覆い隠すように新しいものを使いすぎている気がします。ヨーロッパでは、ナチスに共感する発言をすれば思想犯になりますし、アメリカでも明確な黒人差別をすれば社会的な立場が危うくなります。一方、日本では戦時中の社会への反省があるかというとそうでもありません。
小塚 やはり、昭和後期までは戦争経験者もたくさんいましたから、何が行われたのかについて、一応のコンセンサスはできていました。そこを曖昧にしてきたことで、その後の世代で分断が進みました。見なくてはいけないものを見ずにすごしてきたことで言葉のレベルだけで対立が生じたわけです。
――問題の本質に無関心のままでは、社会のブラックボックスがそのままAIやオンラインのブラックボックスに移行して増幅してしまう。
小塚 逆にネット上でヘイトが蔓延することもあります。特に日本のネット上の言論については、2ちゃんねる（現・5ちゃんねる）にみられたように、匿名で過激なことを発言することで溜飲を下げる文化がありましたから、そこは問題です。
新しいデータ社会の秩序をどのように形成していくのか
――アメリカでは2ちゃんねるの英語版である4chが陰謀論の温床になっています。現在はプラットフォーマーの法的責任はどのようになっているのでしょう。
小塚 日本の法律家は、プラットフォームとして配慮すべきことというのが存在すると考えています。無法地帯のようなプラットフォームで詐欺や誹謗中傷被害がたくさん起こったときに、プラットフォーマーが何らかの配慮をするべきだという考えは、日本社会にもある程度は根付いてると思います。これに対して、プラットフォーム側の主張は、あくまで場を設けているだけなので自分たちをプレーヤーだと見なさないでほしいということです。媒介したことで、問題を起こした人と同じ責任を負うことは避けたいので、プラットフォーマーは、必要に応じて警察にも協力するようになっています。
――インターネット黎明期のカウンター・カルチャー的な姿勢とは遠く離れていますね。
小塚 自律的な秩序を謳っていたものの、無秩序でアナーキーな世界になってしまったのがインターネット1.0の世界だった思います。当時は社会主義陣営が倒れた冷戦直後でもありましたから、自由競争を通じてよりよいものが生き残っていくのだという楽観主義があったんです。今の私たちはその悪しき面も見ていますし、世界的には権威主義国家である中国が大国になっています。市場競争が間違っていたかと思っていたら、新冷戦どころか旧戦争のようなことが起こりはじめました。今ではインターネットについての社会的な認識が逆転しています。そうしたなかで、新しいデータ社会の秩序をどのように形成していくのかが問題になっていきます。
――そうすると、リアルな社会秩序のありようも問いなおされていきますね。
小塚 ヨーロッパが目指しているのは、政治学でいう中道左派的なリベラリズムだと思います。1940年代に第2次世界大戦があり、その傷が癒えたと思ったころにユーゴスラビアの内戦があった。そして現在はウクライナ戦争の渦中にあります。彼らには戦争を目の当たりにしてきた歴史がありますから、リベラルな秩序が基本になります。アメリカは地政学的な立場もヨーロッパとは大きく異なりますので、マーケットの規律が社会的な規範になってきます。また、よく誤解されるのですが、中国のテック業界は自由競争で、そこはアメリカとよく似ています。政治体制の根本が権威主義的なだけで、冷戦時代のように隅々までコントロールされているわけではありません。
――その意味では日本というのは曖昧ですね。
小塚 ヨーロッパのように人権や社会民主主義的な秩序を強調するわけでもありませんし、もはやアメリカや中国に比肩するビジネススケールや勢いもありません。他方で権威主義的な統制には反発が大きい。その証拠にマスクの着用1つとっても法律化できないわけです。
――責任を持たずに匿名で物事を進める傾向もあります。
小塚 ここも両義的です。把握されることへの嫌悪感も強く、マイナンバーカードが批判されるように、匿名性にこだわるところがあります。他方では、ひとたび誹謗中傷が起こると一斉に名指してバッシングが起きたりもします。
すべてがテクノロジーに代替されるわけでもなく、すべてが法で割り切れるわけでもない
――EUでは、日本ではデジタルタトゥーとしてバッシングの種になりがちな個人の過去についても「忘れられる権利」を保証します。
小塚 ヨーロッパでは社会が法に基づいて形成されていますから、人の持つ権利を出発点にします。アメリカではプロセスの自由を絶対的なものとしていて、そこを統制しようとすることへの反発があります。日本が重視するのは、権利でもプロセスでもなく結果です。みんながニコニコして幸せに暮らせることに、日本人はこだわっているのですね。だから不幸せな人が生じる事柄には反発しますし、表面的な不幸がないときには自分のことを知られないことが幸せだということになります。だからこそ、日本で法律をつくるのが難しいのです。
――立法意図やプロセスからの積み上げができないということですね。結果を重視すると、今後のことがわからないAIやサイバー空間について法律をつくるのは難しいように思うのですが。
小塚 結果にこだわる日本的な解決としては、法の外側に、法ではない仕組みをつくることで、社会にそのシステムが受け入れられるようにするしかありません。法というのは、基本的にだれが権利を持っているのかという世界ですし、個々の権利をぶつけ合うとアメリカ的なプロセス重視の社会になります。そこから出発すると、権利主張ができない人が損をすることになって、結果満足は得られません。日本的な社会では法で形成される秩序はミニマムにして、その周囲に法とは異なるバッファゾーンを設けるほうが社会に受け入れられやすいと思います。私は、その方法はAIに関してはかなり有効だと思っています。逆説的ですが、もっとも難しいことをしている日本には、AIの秩序について、世界にアピールできる潜在的可能性があると思います。
――先生の言葉でいう「身体に合わない既製服」としてヨーロッパから輸入された法律を、日本人がどう着こなすかという話になりますね。
小塚 レッシグは、現代の人々をコントロールする要素として法・規範・市場・コードの4つを挙げていますが、日本は、当初から法律と規範と市場とのズレに苦しんできたのです。最初からズレが生じているので、法でも当初から契約でも割り切れない日本的商慣行があったりします。レッシグが指摘する前は、欧米の法律家はそのズレに気がついていなかったり気がつかないふりをしていたりしたんです。日本の法律家はそこに自覚的にならざるを得ず、常に現実と照らし合わせる必要がありました。そのように考えると、AIの時代に日本の法律家が主張できることは多くなってくると思います。
――レッシグは憲法学者としてアーキテクチャを論じたのちに、巨大テック企業の支配を批判しています。先生もご著書で国と企業と法の三項対立を指摘されています。
小塚 アメリカの巨大プラットフォームが国よりも大きく生活に影響することが現実化しました。レッシグのように、アメリカ的な自由競争を尊重する立場からは、国に匹敵するような巨大企業には規制をかけるべきだということになります。中国の考え方はその正反対で、企業が肥大化したら共産党の命令で規制をかけることができます。だからといって、巨大プラットフォームを国が支配することは弱者救済の観点からすると本末転倒なのですが。何が正解かを簡単にいえないのが大前提ではありますが、AIやデータエコノミーにどうアプローチすれば社会に受け入れられるのかを考ると、すべてを法で割り切る考え方には限界があるだろうと思います。リーガルテックの話とも重なりますが、すべてがテクノロジーに代替されるわけでもなく、すべてが法で割り切れるわけでもないのが現代社会です。その割り切れない部分を自覚的に議論しなければなりません。借り物の法制度を導入したことで、そこに以前から自覚的だった日本には、このズレに対処するための経験値があると思います。
――そう考えると、各国のデータ社会への規制へのスタンスが明確ですね。EUでは権利を大事にしてGDPR（GDPR：General Data Protection Regulation：EU一般データ保護規則）を作成していますし、アメリカのアシロマ原則は国を問わずに制定されていますが、日本の「AI利活用原則」はリファレンスにすぎません。ここには、市民の権利を保護するEUと、市場への介入を拒むアメリカという図式が明確です。以前、EUではAIに人格権を与える動きもありましたし。
小塚 AIに法的人格権を与えるという動きは完全に否定されて、今後は議論を行わないことになりました。とはいえ、そうした議論が一度は提起されたという点は、いかにもヨーロッパ的でした。
