企業が目指すべき「社会技術」という競争優位
─大阪大学社会技術共創研究センター長・岸本充生氏に聞く（３）
大阪大学ELSIセンターでは、民間企業と共同で事業プロセスにおけるリスクアセスメントなどを研究している。企業にとって、ELSI対応をする意義はどこにあるのか、規制を先取りして課題に取り組むことでどんな優位性が生まれるのか。
取材：2023年6月28日 トリプルアイズ本社にて
 |
岸本 充生（きしもと あつお）大阪大学社会技術共創研究センター（ELSIセンター）センター長。大阪大学データビリティフロンティア機構（IDS）ビッグデータ社会技術部門教授。 京都大学大学院経済学研究科博士後期課程修了。 博士（経済学）。 独立行政法人産業技術総合研究所、東京大学公共政策大学院を経て、2017年から大阪大学データビリティフロンティア機構教授。2020年4月から新設された社会技術共創研究センター長を兼任。 共著に『基準値のからくり』（講談社）、『環境リスクマネジメントハンドブック』（朝倉書店）、『環境リスク評価論』（大阪大学出版会）などがある。
|
目次
ELSI対応はビジネス戦略そのもの
桐原 大阪大学のELSIセンターはさまざまな民間企業と組んで、共同研究をやっていらっしゃいますね。
岸本 企業さんごとにいろいろなフェーズで共同研究しています。NECさんとやっている顔認証については、すでに技術としては出来上がっているものなので、それをどう使ってもらうかというフェーズをやっています。NHK技研さんやリコーさんとは、研究開発前から社会実装までのプロセスで、どういうことに気を付けないといけないかというガイドの作成をやっています。
桐原 これまでの研究倫理審査とはどこが違うのですか。
岸本 医学系の研究倫理審査の場合、スコープはあくまでも研究で、被験者保護が第一ですよね。社会実装がどんな形でなされるかは実はスコープ外なんです。企業の場合、法務部門がゲートとして存在していて、厳しくダメ出しするわけですが、研究開発してPoCをやってサービスや商品を社会に出すときに初めて彼らは出てくるんですよ。そこで駄目ですと言われて世に出なかったら、そこまでの苦労が全部無駄になるわけです。それなら最初から実装を視野に入れたELSI配慮のプロセスをつくりたいというニーズは、各社持っていますね。
桐原 どんなかたちで一緒にやるのですか。
岸本 共同研究というかたちになります。研究プロセスも含めてアウトプットはウェブサイトに公開したり学会や論文で発表したりします。リアルタイムでオープンにすることはできませんが、事後的にはできる限り全部オープンにしましょうという姿勢です。
桐原 企業からはどういう職種の方がいらっしゃるんでしょうか。
岸本 基本的には研究部署の技術者とご一緒します。今ある技術をこういうところに使いたい、こういう用途で使いたいという要望に対して、リスクを洗い出して、プロセスごとのルールを決めるみたいなことを手伝っています。
桐原 ITばりばりのエンジニアがELSI的な考え方を受け入れるのは、ハードルが高くないですか。
岸本 全員が関心を持つ必要はありませんが、ELSIの分かる人が企業に一定割合はいてもらわないと話が進まないなとは思います。SDGsとかESG投資とかCSRとか、似たような略称がいろいろあって、ELSIと何が違うんですかと聞かれるのですが、全然違いますと答えています。ELSI対応はビジネスそのものなんですよ。ELSI対応というのは製品やサービスを社会実装するために必要不可欠なパートであって、かつうまくやるとそれ自体が競争力になりうるものです。
桐原 そこは重要ですね。
岸本 必要不可欠かつ頑張ったら競争力になるというものなので、これはビジネスそのものなんですよ。もっというと技術開発そのものなんです。意識の高い会社がボランティアでやっていますみたいな話とはまったく違うんですという話をしています。だからこそ企業も共同研究にお金を出すわけです。
桐原 おっしゃる通りだなと思います。テックベンチャーもたくさんありますが、全部が全部、倫理の問題に敏感なわけではありません。すぐには優位性にはならないけど、押さえといてやっとくことが将来の優位性につながるはずですよね。
リスクアセスメントというテクノロジーを取り込む
岸本 ELSI対応プロセスをきちんと定めて、そのプロセスに則ってやっていくということであれば、僕は顔認識技術をはじめどんな技術もどんどん開発していいと思います。社会実装時にプライバシーポリシーや利用規約などに相当するものを本当に分かりやすく、こういうリスクがあってこういう対策をしているので、リスクが最小限に抑えられていますとか、あるいはこんな利用はしませんとか、きちんと書かれていないといけないと思うんですよね。今は、そういう検討をしたり、書いたりしなくてもいいことになっています。今は法律で義務付けられていなくても、そういった手続きはいずれ必要になるだろうと考えて、そこは意識しといたほうがビジネス的に優位になると思います。
桐原 先端技術を社会にどうなじませるかについてELSI的な視点を持つことが優位性につながるわけですね。
岸本 気を付けないといけないのは、アメリカでも規制が厳しくなりそうだということです。われわれは、ヨーロッパは規制に厳しくて、アメリカは自由奔放、日本は真ん中だみたいな、そんな漠然としたイメージを持っていますが、生成AIに関してはアメリカが今すごく規制に乗り出しています。大統領府もそうですし連邦取引委員会（FTC）もそうですし、いろんなところが動きだしています。FTAはFTC法という法律に基づいて執行するのですが、第5条で「不公正又は欺瞞的な行為又は慣行」を禁じていて、厳しく適用してくる可能性があります。そこで日本は今ソフトロー的なアプローチ一辺倒でいこうとしていることに懸念しています。日本だけがグローバルスタンダードから置いていかれる懸念です。
桐原 そうなんですね。EUのGDPRとは別の観点で厳しくなりそうだと。
岸本 アメリカは差別の問題に対して敏感なので、ブラックライブズ・マター（BLM）運動のときには公的機関が顔認識技術の使用を禁止する条例があちこちの州でできました。そういうバイアスとか差別の問題に引っ掛かると、アメリカは早いですね。規制が緩いことは技術開発する側には一見いいように見えますけど、規制に対応する技術の開発が遅れることになるので、長期的に見たら取り残される可能性はあると思うんです。
桐原 規制も技術的な対応なんだから、そういうことですよね。
岸本 例えば事前にリスクアセスメントしないといけないという規制があったら、そのリスクアセスメントのやり方を開発しなければなりません。我々はこういった技術を「社会技術」と呼んでいます。まさにテクノロジーそのものですよね。規制が緩いことで、そうしたテクノロジーの発達が遅れる可能性があります。
桐原 昔の車の排ガス規制がそうでしたよね。日本のメーカーは真面目に頑張ったので、日本車が世界を席巻した時代がありました。
岸本 将来的に厳しくなるんだったら、早く規制したほうが、そのときはつらいかもしれないけど、対応する技術が鍛えられ成熟していきます。
ELSIの再解釈とビジネスの新しい潮流
桐原 ELSI対応がお題目ではなく、ビジネス戦略だということがよくわかりました。ところで、ELSIという概念自体は昔からありました。これをリバイバルさせたというのはどういう意図があったのですか。
岸本 実は、2020年にELSIセンター長なるまでELSIなんて言葉を使ったことはありませんでした。生命科学や医学の世界の用語だと思っていましたし、その世界ですら最近は以前ほどは使われていません。ヨーロッパはELSA（Aはaspectの略称）と言ってましたが近年はRRI（責任ある研究・イノベーション）という言葉を使っています。研究不正の防止も含めて、スコープも研究からイノベーションまでカバーする結構大きい概念なんです。背景には、ELSI研究は小手先じゃないかとか、あるいは専門家が勝手にやっていて、患者や市民が参加する側面が欠けているという批判もありました。それはELSIの概念そのものに対する批判というよりも、実際のELSIの実践に対する批判です。そういう欧米での動向については知っていたので、いまさらELSIという用語を使うのもどうかなとは当初思っていたんですけど。
桐原 それがなぜ復活したのでしょうか。
岸本 日本政府の科学技術基本計画はずっとELSIと言っているんです。それと人工知能学会でもELSI賞をつくったりしています。AIの開発プロセスのなかでそういうものが大事だというときにすぐに当てはまる言葉がELSIだったんですね。情報系の人たちがELSIという言葉を使いはじめた。もっと身近では、大阪大学の総長がELSIという考え方を気に入っていただいて、ELSIセンターの設置につながったので、ELSIを全面に出す覚悟ができました。
桐原 岸本先生は、そこからELSIを解釈し直していますよね。
岸本 生命科学系の人からは「なんでいまさらELSI？」って言われるし、情報系の人からは「また新しいバズワードか」と言われました。講演するときには、聴衆にどういう人がいるか分からない場合は両方向けに言い訳して、なぜ今ELSIかということを説明していました。一つは、ELSIは、アメリカで1990年に開始されたヒトゲノム・プロジェクトの中で1つの研究プロジェクト名として生まれたわけですが、当時はすごく先駆的な概念だったわけで、その素晴らしい概念を、生命科学や医学以外のエマージング・テクノロジーにも使いますという文脈を考えました。もう一つは、倫理的（Ｅ）・法的（Ｌ）・社会的（Ｓ）をそれぞれ区別して考えることで、それまでとの違いをアピールしました。生命科学の分野では、ELSIは技術以外のすべてとか、生命倫理や医療倫理とイコールで考えられていました。そうではなくて、倫理的（Ｅ）・法的（Ｌ）・社会的（Ｓ）を分けて、その関係性を見ようよという話をしたら、企業の方にすごく受けたんですね。彼らは法的（Ｌ）にはOKだけど、炎上する事例があることを経験しています。あるいは法的（Ｌ）には駄目でも社会（S）が望んでいる技術があることも知っています。まさに自動運転だったり、ライドシェアだったりいっぱいあるわけです。その場合に、法務が駄目って言ったらやめますというんだったらなんのイノベーションも起こりません。そうではなくて、ちゃんとロビイングして規制改革してもらいましょう、堂々とやりましょう、エビデンスを付けて社会のためになりますよというアプローチに変えたいと考えているわけです。テック系企業はみんなそういう部門を持っています。政策企画部門とか公共政策部門ですね。これは大きな変革で、昔はロビー活動って裏でこっそりやるもんだと思われていたじゃないですか。新しいテック系の企業のなかでは「レスポンシブル・ロビイング」のような新しい潮流が生まれてきた。
常に「同意」を強いられる理不尽さ
桐原 ELSIセンターにはさまざまなバックグラウンドを持つ人がいらっしゃるわけですね。
岸本 そうですね。実は僕、大阪大学に来るまでは、経済と法律以外の人文系の学者と一緒に研究したことがなかったんです。よく冗談で、「倫理学者は空想上の生き物だと思ってました」とか言うんですけど。若手の倫理学者で面白いこと言っている人がいて、その人は研究対象というのはずっとテキストだと思ってましたと言ったんです。
桐原 なるほど。現実の問題として捉えてなかったんですね。
岸本 それまでリアルな問題を研究対象だと考えたことがなくて、たまたまELSIセンターに来て、なるほど、こんなにいろいろ現実社会にも研究対象があるんだということが分かった、すごく面白いですみたいなことを言ってる。意外と現実課題の解決に倫理学を応用したいという若手は多くて、そういう意味でいうと、IT界隈には未解決の問題がたくさん転がっているので、ちょっとしたきっかけでコラボはいっぱいできると僕は思っていますね。
桐原 例えば身近でいうとどんな問題でしょうか。
岸本 同意の問題はこれから大きく変わっていくでしょうね。今はアプリをダウンロードするにも何するにも、とにかく利用規約に同意を求められますが、例えば店頭で割引が使えるというので店のアプリをスマホにダウンロードする際に、店員の指示で進めていくと、「はい、同意ボタンを押して」と言われるんですよ。「ちょっと待って、全部読むから」と思いものの、そんな感じじゃなくてつい同意ボタンを押してしまう自分がいて、ELSIセンター長としてどうなのと自問自答するわけですが、これを倫理学者は、ものすごい問題視するんですね。要するに、人々に嘘をつかせているわけですよ。読んでもいないものを読んだって言わせているわけです。最近は中高生もスマホ持ってアプリを入れていますから、こんな悪い教育ないですよ。
桐原 倫理的におかしいと。
岸本 平気で嘘をついていいなんて、めちゃめちゃ教育的ではないわけじゃないですか。その仕組みをつくったのは、我々世代ですよ。それは道徳的なおかしさですけど、企業の立場としても間違っていると思っています。なんでも同意させるというのは、何かあったときの責任を全部利用者に押し付けているわけですから。安全を確保するのは事業者の責務です。例えば我々は建物に入るときに何かに同意しませんよね。構造計算書を読んでから入る人はいないわけで。当然この建物をつくっている人や運営している人が安全を確保していると信頼しているからです。もうインターネットが始まって何十年たっても未だにこんな状況なのは、大いなる欠陥ですよ。リアルな社会でどういう場合に同意を取っているかというと、バンジージャンプとかスキューバダイビングをやる前とかです。どういう場合かというと、usualじゃないときなんですよ。un usualなときに同意は取るものです。であるならば、通常のデータ管理をやっているだけなら同意を取る必要はない。普通ではないケース、例えば想像しづらい第三者にデータを渡していますとか、何か別の目的のトレーニングデータに使いますとか、そういう差分だけ通知すればいいと思うです。あるいはリスクアセスメントを実施して第三者機関が確認してOKでしたという情報を載せるというやり方もあります。ユーザーの負荷を減らすのがサービス提供者の礼儀だと思います。
桐原 インターネットサービスが増えたからですかね。
岸本 あれはバグですよ、完全に。もはや奇習だといってもよい。
桐原 そういえば、商品についている説明書なども読めないくらい小さい文字で書かれています。
岸本 読ませる気がないけど、取りあえずやっておけばいいみたいな感じですよね。しかもなんの疑問も持っていません。これ、現代アートになると思うんですよね。徹底的になんでも同意を取っていく。そもそも会場に入る前からいろいろな同意ボタンを押さないと入れない。
桐原 面白いですね。どこかにとんでもないことが書いてあって、それにも同意してしまうという。
岸本 われわれの現実もそうなんですよと気づかせるようなアート展をしたいですね。（了）
