慶應義塾大学大学院メディアデザイン研究科准教授 標葉隆馬氏に聞く
第3回「できてしまう」技術の倫理―AIのガバナンス設計
進化を止めることができない科学技術をどう導くのか。AIやニューロテクノロジーが進化する現実のなかで、標葉氏はELSIを規制のブレーキではなく、進行方向を定めるハンドルとして捉える。ニューロライツや核拡散防止、デュアルユースの課題――禁止ではなく設計によって未来を引き受ける、現実的なルールメイクの思考が語られる。
取材：2025年12月1日 慶應義塾大学日吉キャンパス標葉研究室
 |
標葉隆馬（しねは・りゅうま） 慶應義塾大学大学院メディアデザイン研究科・准教授。京都大学農学部応用生命科学科卒業、京都大学大学院生命科学研究科博士課程修了、博士(生命科学）。総合研究大学院大学助教、成城大学准教授、大阪大学准教授を経て、現職。先端科学技術をめぐるELSI（Ethical, Legal and Social Issues：倫理的・法的・社会的課題）の分析、メディア分析、コミュニケーションデザイン、政策分析などを組み合わせながらRRI（Responsible Research and Innovation: 責任ある研究・イノベーション）の視点を踏まえた科学技術ガバナンスに関わる研究を進行中。主著『責任ある科学技術ガバナンス概論』（ナカニシヤ出版 2020）。 |
目次
後戻りできない問題をどうハンドリングするか
都築 正明（IT批評編集部、以下―） ソフトローの構築においては倫理や道徳、規範というものをどう考えるかが重要かと思います。生殖をめぐる観点などは特に難しいと思えるのですが。
標葉 隆馬氏（以下、標葉） 最近ニューロテクノロジーの領域で注目している1つに、ニューロライツ運動というものがあります。脳神経関連の権利なのですが、これはニューロテクノロジーの新しい技術によるベネフィットを受けることは、新しい人権の1つであるという考え方です。同時にそれがもたらすリスクや不安、懸念から解放されることも権利の1つだとも主張されています。権利（right）が複数なので“ライツ（rights）”です。自分の望むベネフィットを最大化してリスクは最小化するということを、属性によらず誰もが享受できるという考えかたです。そのうえで、彼らはそれを法律化するためのアドボカシー運動を世界中で展開しています。
チリでは、憲法そのものは国民投票で否決されましたが、憲法改正草案にはニューロライツの文言が入っていました。このように新しいテクノロジーのベネフィットを享受してリスクが軽減されることを、基本的人権として強調してよいのではないかと考えます。AIを用いた治療や創薬についても、それを貧富に関わらない基本的人権の範疇とすれば、誰でも利用することができる。日本でもそう展開したらどうだろうということを、ルール化や法律に関して最近よく考えます。
―ニューロダイバーシティはよくいわれますが、すべてを神経系に還元することは危惧されます。ここでいう権利はニューラルなものを改変することも権利として認めるということですよね。
標葉 改変しようと思ったらできるし、しなくてもよい――いずれも権利として保障されているということです。これだけテクノロジーに依拠している現在において、こうした権利を属性によらず行使できることは重要だと思います。現代社会において、技術の進展は止まりません。ある国で問題があるからといって禁止しても、ほかの国が推進しますから、世界レベルでは停止しないことは、ほぼ明らかです。そう考えると、いまあるものを我慢するよりも、よりよい使いかたを先に先に提示するグッドプラクティス主義のほうがみんなの幸福には資するのではないかと思います。ELSIはブレーキだといわれたりハンドルだといわれたりしますが、ブレーキを踏むことにさほど意味はなくて、むしろハンドルであることが望ましい。そのほうがみんなハッピーになりますから、よりよい使いかたの競争になっていて、ルールメイクが重要になっているのだと思います。
―たとえば国内で臓器移植のハードルが高くなると、お金持ちはアンダーグラウンドで海外で手術してしまうようなことですね。
標葉 結局のところ、できる人はしてしまいますから、できることを前提にして、よりよい運用をしたり、被害を被る人をゼロに近づけたりする方策を考えるほうが建設的だと私自身は考えています。文化や信仰において譲れない一線があれば国や地域で決めればよいですが、そのほかについてはある程度自由に選択ができる状態にならないとアンダーグラウンドに潜るだけだと思います。それに、できるとなれば我慢できないのが人類だと思うのですよ。
―後戻りはできないという前提ですね。
標葉 そう考えると、核兵器などが拡散しないのは、やはり不断の努力によるものだと思います。倫理学を専門にしている方々とは異なる意見になりますが、止めようがないことを前提にガバナンスを設計して実効していることは、やはり大きなことだと思います。STS（Science, Technology and Society：科学技術社会論）には」ドゥアブル（doable）」という言葉があります。技術やそれを取り巻く環境において「できてしまうこと」や「できるようにすること」に注目する視点です。やはり、できてしまうことが喚起する状況は劇的で、ゲームの見えかたが一変するわけです。そして、その状況が、何かを「できるようにすること」へと働きかけていくわけです。技術は新しい欲望を喚起するものでもあるといえるのかなと思います。これはAIについても同様で、AIが関わることで「できてしまうこと」も「できるようにすること」もその速度は明らかに速くなります。これが大衆化したときに止めることはますます不可能です。私は、いまAIをめぐって生じている問題は新しい欲望の問題だと思っていますが、それが根本的に解決することがないことを前提に、どのようなガバナンスと権利保障を考えるのかという視点に立っています。
桐原永叔（IT批評編集長） 核兵器については、相互確証破壊のような国際間のバランスがあります。一方が核攻撃を行えば、必ず相手からも報復を受け互いが壊滅することが確実というリスクがあり双方に抑制が働きます。しかし一方、AIそのものは兵器ではない分、そういった壊滅のリスクは想像しにくく、国家間のバランスも働きづらいと考えます。実際にドローンの使用に躊躇がなく、エスカレーションする傾向さえ見えます。
標葉 慧眼であると思います。AIが直接的な破壊はもたらさず（少なくとももたらしにくく見える）、影響が見積もりにくいことがポイントなのではないかと思います。AIが破局的な状況をもたらすとしたら、どこかでHuman-in-the-Loopが外れたときに、取りかえしのつかない誤判断がされてしまったり、AI駆動の兵器運用で人間ではあり得ないような非道徳なことが行われたりという「想像」はできますが、そのほかの直接破壊は難しいと思います。直接的な破壊かというと微妙ですが、よくいわれるAIがもたらすネガティブインパクトとしては、電力問題があると思います。エネルギー需給バランスにおけるネガティブインパクトを過小評価してはいけないということは問題になってくると思います。
デュアルユースにかかわる課題
―科学技術においてはデュアルユースが危惧されるところです。
標葉 デュアルユースも本来は知識移転の問題のため、根本的には止めようがないと思います。研究者としては、研究成果は公表したいわけですし、公表した成果がどう使われるかについて事前にすべて予測することはできませんし、根本のところで止められないのではないでしょうか。だからといって研究開発側が萎縮するのではなく、そういうことがあり得る前提でマネジメントをして、最後の一線をどこに引くのかというガバナンスのほうが大切だと思います。そういう意味では、デュアルユースを止めるよりもオープンネスを保つほうがよいと思います。
―第二次世界大戦中のロスアラモス国立研究所のように、情報統制のなかで当代一流のスター科学者がマンハッタン計画を推進した過去もあります。
標葉 国家軍事研究については、漏洩しないことをスタートラインに置きますが、一般的な研究についてはオープンにすることが是とされますから、デュアルユース性は止めにくいと思います。オープンにして参加する人が多ければ、悪用を考える人もいる一方で、悪用を防ぐ研究もしやすくなります。実際にはそのほうが対策も早く進みます。
―アメリカの国立研究所のほとんどがDARPA（Defense Advanced Research Projects Agency：国防高等研究計画局）の支援を受けているという話もあります。
標葉 アメリカは汎用性の高い出資を行っています。最たるものの1つがCIAの設立したベンチャーキャピタルIn-Q-Telだと思います。ITベンチャーやゲーム会社など、一見軍事や諜報と無縁にみえて、最終的に軍事・諜報ソリューションへの貢献を見込むことのできるさまざまな企業に投資し、多くのキャピタルゲインを獲得しています。いまはGoogle傘下にあるKeyhole社の3Dマッピングの基盤技術EarthSystemは、イラク戦争以降の軍事利用がなされただけでなく、Google Earthやそれを使ったPokémon GOなどにも生かされています。こういったゲームのユーザーは、ゲームをしながらいろんな場所に入っていきますが、同時に軍事利用可能情報をシチズンサイエンス的に集めてくれるわけです。以前、福島第二原子力発電所を見学に行ったところ「ここにはポケモンはいません」と書いた紙を渡されたことがありました。逆にいうと、ポケモンがいるという噂を流せば、さまざまな場所に誘導して情報を取得することもできるわけだなあと思ったりしました。またヨーロッパでナショナルセキュリティというと、防衛や経済だけでなく、食料の安全保障や人権保障などの話も地域の不安定化につながる要素になり得るとして大きな枠で出資します。そうした柔軟さや賢さが、日本の制度にはなかなか感じられません。
―いまは「外国人問題」という大雑把なイシューの括りかたがあったりします。
標葉 防衛庁装備費についても、正面装備の話だけでなく、安全保障として紛争地域における避難民の人権保護などのプロジェクトに投資してはどうなっていたのだろうと思います。日本はそうしたフレーミングが上手でないと感じることがよくあります。
