イノベーションを加速させる安全と信頼の設計図
AIセーフティ・インスティテュート所長 村上明子氏に聞く
第5回 AIはもはや1つの選択肢ではない
AIの導入を迷う段階は過ぎた。問われているのは、いかに安全性を担保しながら経営と現場に実装して産業競争力へと結びつけるかである。村上氏は、ガバナンスとイノベーションを対立させるのではなく両輪として捉えることの大切さを強調する。また日本が製造業やフィジカルAIの強みを活かす独自のAI戦略を描く意義を語るとともに、AISIがそれを技術面から支える決意を示す。
取材：2026年2月9日 AIセーフティ・インスティテュートオフィスにて
村上 明子（むらかみ あきこ）
AIセーフティ・インスティテュート所長。SOMPOホールディングス執行役員常務 グループChief Data Officer。日本アイビーエム東京基礎研究所、同東京ソフトウェア開発研究所を経て、損害保険ジャパン入社、DX推進部長、執行役員 CDaO（Chief Data Officer）を経て現職。同社データドリブン経営推進部長を兼務。内閣府AI制度研究会座長代理ほか政府・自治体関連委員、一般社団法人言語処理学会理事ほか研究関連委員、経団連デジタルエコノミー推進委員会企画部会長ほか民間団体委員などを多数務める。また災害発生時に情報の収集・活用・発信に関わる支援活動を行う一般社団法人情報支援レスキュー隊 IT DART（IT Disaster Assistance and Response Team）設立メンバーであり、監事を務める。
目次
リスクとイノベーションは相反しない
都築 正明（以下、――）特に企業で生成AIを使う場合は、データを使う側であると同時に、学習される側のデータを出す側にもなります。その意味でのリスクについてはどうお考えでしょうか。
村上 明子氏（以下、村上） 「シャドーAI」として社員が勝手に使うことはありえますが、今ほとんどの企業では、そうしたことができないようになっています。そのためには、しっかり情報管理されたAIを提供することが必要です。損保ジャパンでも、2023年にChatGPTが登場したときに社員が使いたがったので、私もプライベートで使ってみたところ、仕事で活用するべきだと思いました。そのままにしておくと無料版を使いかねませんから、セキュアな環境のものを入れなければというので、かなり早い段階で環境をつくり、その環境のなかで、力いっぱい使ってもらうことにしました。弊社では本年からAIエージェントをグループ会社の全社員に提供したのですが、これについても、AIを使うために自分のメールアドレスに会社の資料を送って個人的に使うことがないよう、なるべく早くその環境を提供したと聞いています。大きな企業で決裁を取っていると、すぐに半年ぐらいは経ってしまうため、興味のある方はしびれを切らして使いはじめてしまいます。そうならないためには、企業がスピード感を持つことが非常に大事です。
――日本のAI産業は、国際的にみればキャッチアップする側だと思います。日本が米中に次ぐポジションを取りにいこうとする際に、イノベーションと安全性のハンドリングを間違えるとトレードオフになってしまいます。AISIではそこをどのように考えられているのでしょう。
村上 AISIの立ち上げ当初から私が一貫して言っているのは、AIの安全性を考えることは決してブレーキをかけることではないということです。どう進めば安全なのかを知らないままアクセルを踏むほうがよっぽどリスクです。一方で、どこに危険があるのかがわからないためにアクセルを踏まないのもリスクです。ですから、どうすれば安全性を担保できてリスクが減るということを理解したうえで、先に進むことが大事だと思います。先ほどの、データが流出しないAIを社内につくるということは、安全性を考えてのことです。闇雲にAIを使うのではなく、安全なAIを用意して、目一杯使ってくださいと言えるのは、イノベーションを促進することになります。AIの安全性を考えることがイノベーションを阻害する、またはゼロサムゲームになってしまうということではありません。予算はどうしてもゼロサムですが、安全性を考えて必要な予算を配分することで、イノベーションにかけた予算を最大限に活かすことができる。これがAIの安全性を考える重要なモチベーションになるのだと思います。特に、どんどんAIを使いたい方は、安全性を敵対視しがちです。しかし本当にAIを理解している方は、安全性を考えずに導入しようとは絶対に思いません。そこをしっかり考えられる方を、経営のなかでAI関連の担当者に据えていただきたいと思います。
――人事や予算も含め、今はトップマネジメントのレベルからAIについて考えなければなりません。企業の経営層に求められるのはどのようなことだと思われますか。
村上 今はもはやAIを使うことは1つの選択肢ではありません。使わなければ市場から置いていかれます。AIを使うことがディシジョンではなくAIを社内にどう位置づけるのかが経営層の判断になってくると思います。そのときにガバナンスやリスクのことだけを言うのは間違っていますし、イノベーションを考えすぎてリスクを度外視するのも間違っています。そこを理解して両輪で進めていくことが経営層にに求められると思います。国としても、リスクを考えることにはコストがかかります。しかし、リスクを各社それぞれに考えると社内でコストを使ってしまいますから、そこを共通化して、国としてリスクやガバナンスの指針をしっかりと提供して、みなさんにかかるコストを抑えられるようにすることが、AISIの役割として重要なところだと思います。リスクを考えることは非競争領域です。AIを使うときには、各業界におけるAIのリスクについて競合他社ともディスカッションしていただいて、リスクのところで差分を取るのではなく、イノベーションのところで他社に負けないものをつくっていただきたいと思います。
フィジカルAIは日本の長所を発揮するチャンス
――人員やコストがある程度セーブできれば、今まで日本で強いといわれていたものの元気が出せなかった製造業や中小企業が、フィジカルAIなどの分野で伸びてきそうです。
村上 私はAIとフィジカルのものは非常に相性がよいと思っています。今までなかなか進まなかった理由は、フィジカルなものは物理的に人間を傷つける可能性があるからです。そこを議論しないまま進めてしまうと大惨事になりかねず、皆さんこの分野に手を出しづらかったのだと思います。その部分で安全性を担保できるのであれば、アドバンテージが取れるだろうと思っています。日本には製造業をはじめとして物理的に動くものをつくる技術力がありますし、これまで製造の現場で培ってきた技術だけでなく、そこで蓄えてきたデータも役に立つのかなと思いますから、ぜひ世界に先駆けてその力を見せてもらいたいと思います。
――品質を高めることについては日本人の職業倫理的な部分もあるのだと思います。その部分で技術的な優位性を世界に示すことで、デファクトスタンダードやプラットフォームとなるきっかけになる可能性はないでしょうか。
村上 それはあると思います。自動車メーカーが品質の高い自動車をつくって世界でシェアを伸ばしてきたのは、製造現場での改善を繰り返してきたからだと思います。海外の工場では、金曜日の午後につくったものの品質が悪いということがありえますが、日本の製造現場や工場では、そうしたことは絶対に起きません。どこに何をしまうのかが綺麗に理路整然と片付けられているのが日本の製造現場ですし、職人気質の人たちが後継者に教えることには非常に長けていると思います。そうしたメンタリティは、本来はデジタルと親和性が高いはずです。特にAIにおいて、データがクオリティの要になってくるとすると、そうした丁寧な仕事で貯めてきたデータでAIの性能を上げる可能性は十分にあると思っています。
――宗教や政治の弱い日本ではモラルに訴えたりルールをつくるよりも、技術としてアーキテクチャをつくるほうが、向いているのかとも思えます。
村上 AIに限らず技術というのは、ルールをつくったものが世界を制しますから、標準として取り入れられるものをいかに自分たちの得意分野に持ってくるかというところになると思います。今AIのルールやガバナンスは数多くありますが、具体的な技術のルールについては進歩が速すぎて追いついてないのが実状です。一定の収斂はなされていくでしょうから、そのときにルールメーキングに関与できるのかというのが1つの分岐点になるのだと思います。
――日本でのAIロボティクスの開発が進めば村上さんの夢だった「ドラえもん」もできるかもしれませんね。
村上 私は言葉からアプローチしましたが、ドラえもんは全身で動きますからね。個人的な意見ですが、日本のアニメや映画に出てくる人工知能には顔があり目を持っています。ターミネーターは目を隠していますし、HALも姿がありません。ここは、日本人の考えるAIやロボットと海外のそれとのいちばんの違いではないかと思います。日本人の考えるAIは人間側にいるのですが、海外の方が考えるAIは人間の敵のようにみえるのではないかという印象を受けます。それは、宗教観に基づくのかもしれないも思います。神様が人間を創造したという一神教の感覚と、八百万の神のようにどこにでも神様がいると捉える日本人の感覚とは違うのかもしれません。
――アメリカやヨーロッパの根本にあるユダヤ・キリスト教的一神教のイデオロギーと、八百万の神がいたり付喪神のようにモノにも神様がいる日本のそれとの違いですね。
村上 日本の神様のことを話すと、海外の人はびっくりされますね。私はよく、三が日は神様がお休みするときだから、神様が宿っている機械も動かしてはいけないと言っています（笑）。
日本のAI戦略を技術で支えていく
――日本が産業としてAIを進めていくにあたっては、日本発のグローバルスタンダードを国を挙げて構築していくことになるのでしょうか。近年はかえって日本流のガラパゴス的進化に優位性がでてきているようにも感じます。
村上 これは私の個人的見解ですが、ガラパコスが悪いわけではないと思っています。全てをグローバルスタンダードに合わせようとするとタイムラグが発生してしまうので、ローカルで進めなければならないものも必ずあると思います。ローカルで進めながら、グローバルスタンダードにも目を配っていき、合わせられるところは合わせつつ、海外に出せるものを考えていくというのがよいパターンだと思っています。海外志向の日本人が間違えがちなのは、全部海外のものがよいとすることです。そうではなく、日本にもよいところはたくさんあります。では純ジャパニーズでなければならないかというと、そうではありません。オープンマインドでいくことが重要だと思います。
――ビッグテックに勝ちに行くことに賭けるのではなく、多様ななかの1つとして国内のマーケットでつくることが大事だということですね。
村上 以前、ある経営者の方と、ビッグテックのテクノロジーを使うから日本の企業はテクノロジーを開発する能力を持たなくてよいのかという議論をしたことがありました。しかし、1回なくしたスキルセットを取り戻すのは困難ですから、できないから捨てるという考え方は非常に危険です。10年後・20年後にどうなるのかが確定していないのであれば、選択肢を残すことは重要です。一方で、どこに集中投資するのかというのが企業戦略なので、リソースやコストを均等に配分してぼんやりしてしまうのも間違っています。AI戦略を決めるのはAISIではありませんが、日本のAI戦略もそうしたところを意識して立てられることを期待しています。
――最後に、AISIで現在取り組まれていることと、今後の展開についてお話しください。
村上 内閣府の人工知能戦略専門調査会で強化策を議論していただいて、私たちのミッションも、先ほど挙げた3本の柱をもとにしっかりと業界別の安全性のベンチマークをつくり、またそれを測定する能力を持つことを目指すことになります。特に産業別のAIの安全性を確保することが、産業のイノベーションを促進するための起爆剤になると思っていますので、まずはそこを中心に進めていきます。また国家安全保障も含めて、国の政策に技術的に協力していきます。これからは、この2つを軸に進んでいきたいと考えています。＜了＞
