慶應義塾大学大学院メディアデザイン研究科准教授 標葉隆馬氏に聞く
第2回 生成AIがあぶり出す「ドメインの倫理」
生成AIは、各ドメインに埋もれていた課題を一気に増幅し加速させる。標葉氏はELSIとRRIの見地から、こうした課題をリアルタイムで可視化し、現場へのフィードバックを続けている。BMI（Brain Machine Interface：脳コンピュータ融合）・科学技術政策・大学の意義を横断しながら、日本がルールメイクで存在感を示すための条件を探る第2回。
取材：2025年12月1日 慶應義塾大学日吉キャンパス標葉研究室
 |
標葉隆馬（しねは・りゅうま） 慶應義塾大学大学院メディアデザイン研究科・准教授。京都大学農学部応用生命科学科卒業、京都大学大学院生命科学研究科博士課程修了、博士(生命科学）。総合研究大学院大学助教、成城大学准教授、大阪大学准教授を経て、現職。先端科学技術をめぐるELSI（Ethical, Legal and Social Issues：倫理的・法的・社会的課題）の分析、メディア分析、コミュニケーションデザイン、政策分析などを組み合わせながらRRI（Responsible Research and Innovation: 責任ある研究・イノベーション）の視点を踏まえた科学技術ガバナンスに関わる研究を進行中。主著『責任ある科学技術ガバナンス概論』（ナカニシヤ出版 2020）。 |
目次
AIが増幅し加速させる諸分野の課題
都築 正明（IT批評編集部、以下―） 今年度から、慶應義塾大学のメディアデザイン研究科（KMD）に着任されました。
標葉 隆馬氏（以下、標葉） 大阪大学ELSIセンターは研究センターなので、大学院生を指導することができませんでした。またELSI（Ethical, Legal and Social Issues：倫理的・法的・社会的課題）分野は論文や著書で国際的な成果を出しやすい分野ではあるのですが、何故だか回りの人がそうした機会に十分チャレンジしている感じでもなく、強い違和感を持ちました。またアウトプット・アウトカム・インパクトそれぞれ物足りなく感じました。そうした所感を持っていたタイミングで、慶應義塾大学からELSIができる人が欲しいという声をいただいたので、研究室を立ち上げるにはよいきっかけだと思い、教員公募に応募して、この2025年4月に異動しました。
―そこで研究室として発足したのが現在の研究室“Respi:re”プロジェクトということですね。
標葉 正式名称は“Responsible Innovation: Revision, Refrain, Reflection”で“Responsible Innovation”と3つの“Re”を組み合わせた名称です。最初はそのまま“レスポンシブル・イノベーション”としてプロジェクトを立てようとして教員会議でプレゼンテーションをしたところ、慶應KMDの学生さんには一見しただけで内容がストレートに伝わらないほうが受けがよいと指摘されました。実際にKMDには“ Concordia”や“CREATO!”、“SAMCARA ”といった名前のプロジェクトがあります。そこで「レスポンスイノベーションをリビジョンしよう、イノベーションを呼吸（respire）のように当たり前のものにしよう」という意味を込めて、造語“Respi:re（レスパイア）”という名前をつけました。
―実際に行われているのは、どのようなことでしょう。
標葉 先端科学技術をめぐるELSIの分析・可視化、RRI（Responsible Research and Innovation: 責任ある研究・イノベーション）のための議題抽出、規範や指針の共創のためのエビデンス収集と場づくりなどに取り組んでいます。科学技術の関係者のさまざまなご意見をリアルタイムで可視化・言語化して、議論の遡上に載せていくとともに、それを元にソフト・ロー＊１的な次のルールをつくるルールメイキングを積極的に行っています。また科学政策とか研究評価の仕事も続けていますから、議論を組み合わせつつ科学政策の趨勢を捉えつつ、科学技術を推進するための指針をつくっています。
―LLMが登場してから、AIの持つ社会的インパクトが倫理という言葉とセットで語られるようになりました。
標葉 私の視点から強調したいと思っているのは、AIは基盤技術であって、最終的な課題というのはドメインと掛け算をすることによって決まってくるのではないかということです。AIそのものの問題はそろそろ出尽くしていって、どの領域と掛け算するかで、ドメインの問題が先鋭化されるということに注意を向けることが大事なことになるのではと思います。例えば「AI ✕ 防災」ということで生じる問題は、AIならではの問題というよりも、防災分野で昔からあった問題が先鋭化されたり、スピード感を持って出てきたりするようになったということです。
―各分野において、先送りにしていたり、棚上げしたりしていた問題が、AIにより増幅されたり加速したりすることで顕在化してくるということですね。
標葉 そのように思っています。AIを巡る倫理的課題や社会的課題がいわれはじめたときにも、私は以前からあった各ドメインの問題に最後は立ち戻っていくのではないかと考えていました。「AI ✕ 防災」であれば防災の問題ですし「AI ✕ バイオ」ならバイオの問題、また「AI ✕ 脳科学」なら脳科学周辺の課題で、ドメインの話がしっかりできていないと、結局AIによって増幅される問題には対応できないのではないかと考えています。AIならではの問題、特にLLMなどの生成AIに関わる議論は、ここ2〜3年で急速に進みましたから、おおよその規模感はみえてきたところではないかと思っています。昨年、ドイツのティロ・ハーゲンドルフというAI倫理研究者が、2021年以降の生成AIに関わる倫理的課題についての学術論文を対象にしたスコーピングレビューを出しています。その論文によると19のテーマ領域に378の倫理的論点が概観されています。強い執念を感じる論文ですが、そこまで洗い出しが進んでいる。そうするとAIならではの問題は、大なり小なりそのくらいの幅に少なくとも当面は収斂すると思います。さまざまな見地から言葉を変えつつ論じられるとしても、そこを超える新しい問題はそれほど生じないのではないかという気はします。
―研究者であれ一般の人であれ、これまで棚上げしたり先送りにしたりしていた問題が、AIにより増幅されたり加速したりして、喫緊の問題として可視化されるということですね。
標葉 そうですね。今後の議論の中心はAIならではの問題というよりも、AI導入以降に各ドメインの古くて新しい問題にどう立ち向かうかという話になるのだと思います。当初からそう考えていたからです。いずれ戻ってくるだろうと考えて、私自身がAIブームになったときにAIをめぐるELSIの流行に行かず、割とひたすらドメインの地味な仕事をしていたのは、諸課題がいずれドメインに戻ってくるだろうと思っていたからです。実際に、現在はだんだん戻ってきた実感があります。
日本はルールメイクにおいてプレゼンスを示せるか
―先生はCiNet（Center for Information and Neural Networks：脳情報通信融合研究センター）のガイドラインも策定されていますが、そのお話についても聞かせてください。
標葉 CiNetさんでは、BMI（Brain Machine Interface：脳コンピュータ融合）を用いてさまざまなデータをとられています。そうしたデータを活用してAIの学習モデルをつくったり、そのAIモデルの B2B 販売したりという展開を考えていらしていて、実際に一部では業務を進められています。ただし今後それを拡大するにあたりどのような倫理的な課題を考慮すべきなのか、またどのような基準に則るべきなのかを苦慮されていて、私にガイドライン作成のお声がけをいただきました。私もニューロテックに関する研究を進めていたころでもありましたからご一緒することになりました。専門家の委員会を立てて、他分野での事例を含めた過去の知見も丁寧にインプットをしながら、2年ぐらいじっくり調べながら議論して、脳情報を活用し知覚情報を推定するAI技術や可能なビジネスについて再定義しつつ、8つの倫理原則とガイドライン、そしてそれぞれに配慮すべきユースケースをまとめました。ニューロテックについては、ここ数年で国際的に議論が加速しています。ここではそうした最先端の議論や国際的な文脈を踏まえつつ、CiNetならではのガイドラインを作成することを目指してきました。理論的にはいまのスタンダードな議論を踏まえつつ、CiNetのユニークさは脳情報をもとにAIモデルをつくるところにあります。そのAIモデルの活用のための倫理指針に特化した作業を行いました。また英語版も同時に発出しました。結果、OECDの2024年の文書（Neurotechnology Toolkit）に日本の事例として言及してもらえています。
―BMI周辺でいうと、この2年はNeuralinkの脳インプラントがFDA（アメリカ食品医薬品局）で認可されて、人への臨床試験が行われています。
標葉 全体的には日本は立ち遅れてはいますが、個別のプレーヤーをみるならば、優秀でがんばっていらっしゃる研究者の先生がたくさんいらっしゃいます。そこを生かしながら、ルールづくりでも負けないようにしなければなりません。いいモノをつくってもルールメイクで負けて、全体としてはうまくいかないというのが日本の陥りやすいところだと思いますから、そこを乗り越えたいと思っています。
―その図式は、アメリカには遠く及ばないながらも、EU-AI ActやHAIP（Hiroshima AI Process：広島AIプロセス）をがんばっているEUや日本の姿に重なりますね。
標葉 ヨーロッパが巧みなのは、ブリュッセル効果＊２といわれるようにルールメイクで先行することで他国を牽制できるところです。さまざまな課題を抱えてはいますが、ルールメイクやビジョンの見せかたの上手さにおいて一定の存在感を持っているところは日本も見習うべきことがあると思っています。アメリカも政権交代の影響を受けやすいとはいえルールメイクは得意です。ソフトローづくりに手を抜かず、結局技術でもルールメイクでも勝つというところはEUとアメリカ両国に共通しています。いまの日本は、技術でもルールメイクでも主導権を握れていないのではないでしょうか。よい状況をつくるにはどうすればよいのかを考えつづけています。
―EU-AI法の文脈では、ヨーロッパ諸国は革命を起こしてまで個人の権利を手にしてきて、かつ第2次世界大戦の反省からEU内では絶対戦争はさせないという強い意志があるということがいわれます。またアメリカはユク・ホイ＊３が『ポスト・ヨーロッパ』（岩波書店）でいうように、ヨーロッパ主義をスマートかつドライに切り離すことで上手にビジネスを行っているともいわれます。そう考えると、日本のスタンスを再考する必要があるように思います。
標葉 遺伝子組換え技術の「カルタヘナ議定書」＊４締結において日本がイニシアチブをとったように、日本が国際的な議論で存在感を発揮した例も実際にはあるのです。しかしこの20年ぐらいは存在感を示すことができていないように思います。世代交代もあり、そこを乗り越えるグッドプラクティスの継承ができていませんから、各領域においてその状況をつくり直すことからスタートする必要があると思っています。中心になるのは、やはりAIと掛け合わされる各ドメインの話になってくるのだと思います。日本からどのような発信ができるかということに、注意を払っているところです。小さい事例ではありますが、私が関わったニューロテックのガイドライン策定でも、そこを強く意識しました。
桐原永叔（IT批評編集長） 科学技術のルールメイクにおいて、理念重視のヨーロッパ型と、技術重視のアメリカ型の違いがあることについてお話がありました。ヨーロッパの理念先行に対して、ヨーロッパから技術だけ輸入した日本の理念を立てなおそうとして、戦前などは「近代の超克」を掲げたかつての京都学派の人たちが、科学や社会を再考しようとしました。その結果、ユク・ホイが批判しているような」形而上的ファシズム」に接近していったと考えられます。わたしたちがグローバルなルールづくりにおいてイニシアチブをとることが苦手な理由のひとつは、その記憶があるからなのでしょうか。もうひとつ、わたしが思い出すのは、東北大学にいた八木秀次が開発した八木アンテナのことです。戦時中、国内では正当な評価を得てなかったこの技術について、敵国だったアメリカ軍のほうが正しく評価し活用していたという。そして、この八木秀次はさぞや反戦的で虐げられた研究者かと思えば、内閣技術院総裁という戦時中の翼賛体制において技術研究のトップにいたという人物だと知って驚きました。
標葉 八木秀次先生や、理化学研究所の仁科芳雄先生は政治にも影響力をもっていました。理研の創設時にも、そういった研究者が “窮理”が国力に繋がり軍事力にも繋がるという説得をうまく行って、自分のしたい研究をするために理研をつくるなど、本音と建前をうまくつくることができていました。そういう人の存在はやはり大事なのかもしれません。
研究機関としての大学の役割を再考する
―研究者の世代的継承においては、日本の研究者数が多くないということも挙げられると思います。2025年12月に、文部科学省が2039年までに博士号取得者を2万人にまで増やすという数値計画を立てました。しかし過去を振り返ると、1990年代には「ポスドク1万人計画」を策定したものの、受け皿としての就職先がなくなったということもあります。世界的には、女性研究者の割合が他国と比べて顕著に少ないこともありますが。
標葉 博士号取得者を2万人にする計画については、なにもしなければ「ポスドク1万人計画」の失敗を繰り返してしまうことは、私を含めて多くの研究者が懸念していることだと思います。現在が当時と異なっているのは、社会人で博士号を取ろうとされる方が増えていることで、そちらに資源投入をするのであるなら多分やりようが出てくると思うので、そちらを増やす知識・人材育成にシフトすれば、新しい可能性はあるのではないかと思います。
―日本では社会人大学生が5％ぐらいと、海外と比較して著しく少ないですものね。
標葉 日本では学歴や学校歴において、ストレートなコースを好む傾向が強すぎるのではないでしょうか。海外では働いてから大学で学びなおす方が多くいらっしゃいますが、日本ではその数がまだまだ少ないんです。働いてからマスターやドクターを取りに来る方がもっと増えてほしいというのは、大学としては切実に思うところです。そうしたインセンティブがついたり、モチベーションが湧いたりする状況ができるのであれば、決して悪い話ではありません。
―1990年代は深刻な不況だったことから、就職活動を避けてモラトリアムの延長で大学院に行ったものの、修了後もやはり不況が継続していたという状況がありました。
標葉 いまは経済インフレは厳しいものの、民間企業でもアカデミアでも「ポスドク1万人計画」のときほど深刻な就職難ではないと思います。ですから、統計的には当時ほどの苦境にはならない可能性はあります。最も注力すべきなのは、社会人経験をお持ちで問題意識が明確化されてる方をはじめとして、その高度な知識やスキルアップに貢献できる大学カリキュラム、教育体制基盤の構築です。
―一方、科学技術のガバナンスを市民レベルまで行き渡らせることを考えると、市民参加のシチズンサイエンスが醸成されることが理想的だとも思います。
標葉 それはおっしゃる通りです。科学そのものについていえば、大半の方は興味がないわけです。そこから裾野を広げるには、日常生活や仕事との繋がりがみえてこないと、科学技術研究そのものについても、科学の社会的インパクトを考えるという話にはなりません。その裾野が大きくなれば科学研究も進みますし、それをルール化して世界に打ち出すことができれば、これまでの欧米中心の趨勢に対する日本からの議論が補強されるという期待を持っています。
―例えば“選択と集中”のもとで研究者の方々がリソースを割くことができない基礎研究について、シチズンサイエンスを底上げできる可能性もあるでしょうか。
標葉 参加するプレイヤーが多ければ、トータルのキャパシティやケイパビリティ、またマーケットも大きくなります。いまは基礎研究分野が縮小傾向のフェーズに入っていることが問題ですから、その状況が変わるだけでも大きなインパクトがあると思います。
―研究プロジェクトへの助成についても、何年で事業化できるかということが指標になりがちだと聞きます。ノーベル化学賞を受賞したデイヴィット・ベイカーが「Foldit」というゲームを用いて世界中でタンパク質の折りたたみ構造の探究をしたようなプラットフォームができれば、スケールできるのかとも思います。
標葉 オープン化して参加者がうまく増えてくれば、できることは断然増えると思います。オープンサイエンスを行う課題は、その費用を誰が持つのかということですが、日本ではなかなか議論になっていない気がします。オープン化を進めることでサイエンスが発展して、よりよい科学や面白い発見ができる可能性はありますが、コストや権利問題などの課題を解消する議論が不十分とも感じるので、そこをどうにかできないかとは思います。オープン化したときに最も使ってほしいのは、やはり学校教育です。
―学校教育が現状の科学と接続することも重要ですし、リカレント教育を受けて知識をアップデートしたいという意欲を持った教員も多いでしょうね。
標葉 そういうニーズに応えられるような大学や大学院は当然あって然るべきだと思います。
*1 ソフト・ロー： Soft Law、法律のような法的な強制力はないものの、企業や個人、国家などが実質的に守ることが推奨されるルールや規範のこと。ガイドライン、ガバナンスコードなどを指す
*2 ブリュッセル効果：EUの規制がその市場規模を背景に、法的拘束力のない域外へも波及し、事実上の世界標準となる現象。EU-AI Actも、EU市場で活動する全企業に厳格なリスク管理を義務づけるため、グローバル企業が準拠した製品開発を行うことで、国際的なAIガバナンスの基準として定着することが確実視されている
*3 ユク・ホイ：香港出身の哲学者。技術は地域の宇宙観や道徳秩序と不可分であるとする「宇宙技芸」を提唱。西洋中心的な技術観を問い直し、東洋思想を用いた多元的な技術論を展開している。著書に『中国における技術への問い』（ゲンロン叢書）など
*4 カタルヘナ議定書：正式名称は「生物の多様性に関する条約のバイオセーフティに関するカルタヘナ議定書」。2003年発効。遺伝子組換え生物が生態系に及ぼす悪影響を防ぐため、輸出入や取扱いの国際手続きを定めた議定書
関連記事
