イノベーションを加速させる安全と信頼の設計図
AIセーフティ・インスティテュート所長 村上明子氏に聞く
第3回 AIを使う全てのステークホルダーを安全面で支える
生成AIの急速な普及を受け、各国でAIガバナンスの整備が進むなか、日本は「広島AIプロセス」を軸に独自のAI戦略を打ち出している。官民横断組織として設立されたAISIは、AIの安全性とイノベーションの両立をどのように支えようとしているのか。
取材：2026年2月9日 AIセーフティ・インスティテュートオフィスにて
村上 明子（むらかみ あきこ）
AIセーフティ・インスティテュート所長。SOMPOホールディングス執行役員常務 グループChief Data Officer。日本アイビーエム東京基礎研究所、同東京ソフトウェア開発研究所を経て、損害保険ジャパン入社、DX推進部長、執行役員 CDaO（Chief Data Officer）を経て現職。同社データドリブン経営推進部長を兼務。内閣府AI制度研究会座長代理ほか政府・自治体関連委員、一般社団法人言語処理学会理事ほか研究関連委員、経団連デジタルエコノミー推進委員会企画部会長ほか民間団体委員などを多数務める。また災害発生時に情報の収集・活用・発信に関わる支援活動を行う一般社団法人情報支援レスキュー隊 IT DART（IT Disaster Assistance and Response Team）設立メンバーであり、監事を務める。
目次
政府組織として明確なガイドラインを策定する
都築 正明（以下、――）ジャパン・AIセーフティ・インスティテュート（AISI：Japan AI Safety Institute）は、どのような経緯で設立されたのでしょうか。
村上 明子氏（以下、村上）2022年11月にChatGPT3.5が公開され、生成AIが急速に普及して「生成AI元年」といわれた2023年に、AIの安全性を考えておくべきとする動きが全世界的にはじまりました。その年に広島でG7サミットが行われ、AIの安全性を世界で考えるという提言のもとで「広島AIプロセス（HAIP：Hiroshima AI Process）」が立ち上がり、世界的なフレームワークをつくることになりました。その後AIの安全性を考えるAIセーフティーサミットがロンドンで開催されたときに、イギリスがUK AISIの立ち上げをアナウンスして、ほぼ遅れることなくアメリカと日本でも同様の組織を立ち上げることとなり、2024年の2月に私たち日本のAIセーフティ・インスティテュート（AISI）が設立されました。
――現在の活動を教えてください。
村上 AISIは、官民を合わせた全てのステークホルダーのAI安全性をしっかり支える組織です。AISIは内閣府の人工知能政策推進室を司令塔として、12省庁を横断する組織で、事務局は情報処理推進機構の中に設置しています。大きく3つのミッションがあります。1つはAIが素早く進化していくなかで、世界的にも国内的にもさまざまな動きを集約・発信していく情報のハブとしての役割です。次に、技術的なことにしっかりと追いついていけるよう、さまざまな研究機関とパートナーシップ協定を締結して、AIの最新技術の情報を集約する役割があります。そして3つめに、AIには国境がありませんから、海外の国々と協調してルールメーキングを行う国際連携のミッションがあります。
――2025年6月に「人工知能関連技術の研究開発及び活用の推進に関する法律（略称：AI法）」が成立したり、広島AIプロセスのフレンズグループが拡大したりしたことで、動向は変わってきましたか。
村上 EUにはEU-AI Actが、アメリカには大統領令や民間のガイドラインがあり、日本ではAI法が成立しました。日本のAI法は、ハードローのような罰則で縛るのではなく、ソフトローであるガイドラインをしっかりと策定し、イノベーションを阻害しないような枠組みで政府がサポートしていく形式になっています。何が安全で何が危険なのかを示されないままAIを活用すると、どうしても安全サイドに振りすぎてしまったり、挑戦しすぎて危ないことになったりという懸念があります。日本は、ガイドラインを提示しつつ、みなさんにAIを活用していただいて、世界一AIフレンドリーな国になることを目指しています。
広島AIプロセスの意義と日本のAI戦略
――覇権の獲得を目指すアメリカ大統領令や罰則のあるハードローであるEU-AI Actと、広島AIプロセスとの整合性を教えてください。
村上 私見ですが、広島AIプロセスは国際整合性のある意義深いものだと思います。広島AIプロセスでは、企業や組織がどのようにAIを使っていくのか、そしてどのように透明性を高めていくのかをCode of Contactとして指定しています。やみくもに透明性を高めることやガバナンスを効かせるのではなく、皆さんがAIを安全かつ安心して使っていただける指針を世界共通のルールとして持つことが非常に重要だと思っています。法律は各国それぞれ異なりますが、法律とは別の国際基準である広島AIプロセスに準拠していることが明確になっていれば、日本と海外との二重の法律を遵守することにはなりません。今後、そうした共通の指針として広島AIプロセスが活用していけることを信じています。日本としては、広島AIプロセス発祥の国として、しっかりこういった取り組みをアピールして、参加する国や組織を増やしていくというのが重要なのではないかなと思います。そして、それを技術的に支えていくのがAISIの役割の1つだと思っています。
――政府系機関として経済戦略をどのように支えていかれるかについて教えてください。
村上 AIをしっかりと活用して、効率化と新規事業の創出を目指していくということが重要です。AIの安全性については、業界ごとに何がリスクになるかという観点が異なります。業界やエリアごとに、どこまでが安全で、どこからリスクの可能性があるかというベンチマークをそれぞれ話し合って決めていくことが必要だと考えます。安全性のベンチマークがないままにテストをしてしまっても人によって基準がぶれてしまいますし、企業ごとに1人よがりなベンチマークを発信しても仕方がありません。例えば金融なら金融、ヘルスケアならヘルスケアといった業界ごとに決めていくことが大切です。共通のベンチマークができれば、それぞれの業界でのAIの活用が推進されていき、効率化や新規事業の創出につながっていくだろうと思います。業界ごとのAIの安全性ということに着目して、いち早くワーキンググループを立ち上げる姿勢をみせたことが、私たち日本のAISIの独自性だと考えています。
――業界ごとの標準が、それぞれに分断してしまう懸念もあるように思います。業界の常識が他業界の非常識になってしまうような。AISIは、業界を横断して連携や統合をはかる役割も担われのでしょうか。
村上 私たちが直接的に架橋するというよりも、日本政府がワンジャパンで推進するAI戦略の1つのピースがAIの安全性であると思います。協働して行ったほうがよいということを省庁間で話し合っていただいて、私たちAISIはそこを技術的に支える立場にあるという位置づけです。
