来るべき人とAIとのインタラクション
慶應義塾大学理工学部教授 栗原 聡氏に聞く（１）
ChatGPTをはじめとする生成AIは、多くの人々がAIを利用する「AIの民主化」をなしとげた。AIをめぐる百家争鳴の議論の中で、私たちはどこに立脚点をおくべきか。人工知能研究の第一人者として、人とAIとが共生する社会基盤を構想する慶應義塾大学の栗原聡氏に話を伺った。第1回では、基本的な論点とともに、AIと人とが協働して手塚治虫作品の新作をつくるプロジェクト「TEZUKA 2020」についても聞くことができた。
2023年9月21日 慶應義塾大学理工学部会議室にて
 |
栗原 聡（くりはら さとし） 慶應義塾大学 理工学部 教授／慶應義塾大学共生知能創発社会研究センター センター長。慶應義塾大学大学院理工学研究科修了。博士(工学)。NTT基礎研究所、大阪大学、電気通信大学を経て、2018年より現職。科学技術振興機構(JST)さきがけ「社会変革基盤」領域統括。人工知能学会副会長・倫理委員会委員長。大阪大学産業科学研究所招聘教授、情報法制研究所上席研究員、総務省・情報通信法学研究会構成員など。TEZUKA2023総合プロデューサー。マルチエージェント、複雑ネットワーク科学、計算社会科学などの研究に従事。著書『AI兵器と未来社会キラーロボットの正体』(朝日新書)、編集『人工知能学事典』(共立出版、2017)など多数。 |
目次
自律分散ネットワークの視点からヒトの知能をさぐる
都築 正明（以下、――）先生のご経歴をふまえて、AIや複雑系の研究に関わられた経緯をお話しいただけますか。
栗原 聡氏（以下、栗原） 私は、大学院を修了してからNTT基礎研究所に入りました。そのころから、人がどのように物事を理解するかという認知や記憶といった人間の知能に興味を抱くようになりました。
――興味を抱かれる契機はありましたか。
栗原 いちばんインパクトがあったのは、安西祐一郎先生が訳されたマービン・ミンスキーの『心の社会』（産業図書）を読んだことでした。私たちの心は単体ではなく、複数の心が社会を形成して合議制で成立している、という内容です。私たちの体自体も臓器の集合からできていますし、細かくみれば細胞からできている。人間の身体はさまざまなものが集まってできていて、脳も例外ではありません。そこから分散システムに興味を抱くようになりました。分散しているということは、連携して機能を果たすということですから、分散システムの個々の要素（エージェント）よりも、それがどう連携しているかに興味がありました。心の社会についていえば、個々の心同士がバラバラにならず、どのように協調することで全体としての心を形成しているのかということですね。人間の身体でいうと、さまざまな臓器がネットワークを形成して連携しているわけです。すべての臓器を束ねる中枢があって、なにかの司令を送っているわけではありません。そのように、いわば親玉がいない状況で臓器同士がやりとりしてシステムとして機能している不思議さに惹かれました。我々は臓器というレベルではそれぞれの役割がわかりますが、臓器を形成している細胞は、自分がどのような役割を担っているのかを理解すらしていないのです。
――還元して考えればどれもタンパク質ですものね。
栗原 脳神経細胞の機能は無論複雑ではありますが、それでも個々でしていることは単純なことです。しかしそれが数百億個、数千億個という数が集まると、個々の機能の総和を超えた高度なシステムが生まれる創発現象が起きるわけです。
――そう考えると、複雑なものを構成要素の総和ではなく複雑なまま考える複雑系の考え方が必要になるわけですね。
栗原 そうですね。また複雑系とともにネットワーク構造への注視も必要になってきます。身体でいえば個々の細胞はどこと連携しているのかということですね。私の研究の柱は群知能や自律分散システム、複雑系ネットワークなのですが、基礎的な研究だけでなく、得られる知見をさまざまな実問題に応用する取り組みもしています。例えば、コロナウイルスの感染拡散シミュレーションや自律分散交通信号機制御システムの構築といった取り組みです。
――NTT研究所から大阪大学に、その後電気通信大学を経て現在、慶應義塾大学にいらっしゃるわけですが、変わられたことはありますか。
栗原 研究ステージが上がっただけなので、内容としてはさほど変わっていません。
――大阪大学も、ロボット工学で石黒浩先生がいらしたり、ELSIの拠点（社会技術共創研究センター）となっていたりと、人工知能研究では重要な拠点ですよね。
栗原 いろんな方がいて、面白いところです。認知発達ロボティクスの浅田稔先生もいらしたりして。貴重な多くの人的ネットワークが形成できました．
LLMは創発的なのか
――先生の研究されている複雑系と自律分散ネットワークの1つとして、ディープラーニングそして生成AIが出てくるわけですね。
栗原 特に生成AIのように人間と流暢な会話ができるようになると人工知能の倫理的側面といった新たな議論も生じてきます。現在、私は人工知能学会倫理委員会の委員長を務めていまして 、AIが社会に与える影響についても重要な研究テーマとなっています。とはいえ、人とAIとの相互作用に関する議論をするわけですから、これまでの研究の延長線上にあるともいえますね。
――日本では1990年代中盤にカオス理論やフラクタル理論を中心に複雑系という言葉が流行して、その後先生も訳されたダンカン・ワッツ*1やバラバシ*2などの研究が紹介されてさまざまな分野を横断する考え方として複雑ネットワーク理論が注目されました。世界中のだれにでも6人の人を介すればつながることができたり、ホタルの明滅や素数の間隔で大発生するセミの謎を解明したりですとか。インターネットもそのころ同じ理論で語られることが多くありました。
栗原 今や複雑ネットワーク理論を理解できてないとSNS分析を始め、社会で起きる様々な現象を理解することはできません。
――LLMについては創発というよりも大規模な言語コーパスの統計処理と自然言語処理のように思えるのですが。
栗原 そうですね。統計的ではあるのですが、スケールしたことで出力の質が変わるんです。そこは脳の働きといっしょだと思います。脳神経細胞の1つひとつも、確率・統計的な動きをしているけれど、数が多くなってスケールすることで脳が知能を創発していると考えると、大規模なTransformer*3で起きていることも創発なのだといえます。ただし、LLMでの文章の生成について創発だと言い切っている人もいますが、そこは違うように思います。流暢な答えが返ってくるところについては、確率的に応答しているだけですから。ただし、パラメータ数を増やしてスケールしたら急にパフォーマンスが出たということについては、スケールしたことで相転移のような創発現象が起こったのだということになります。いきなりすべてが繋がったというイメージです。おそらく私たちの言語空間の複雑性に到達したということなのでしょう。私たちが物事を断片的に学んでいき、あるとき、それが1つの概念としてまとめられた、ということに近いのだと思います。たしかにLLMは創発システムではあるのですが、流暢な言語を生成する部分は創発されたシステムからの出力モジュールに相当するわけです。
――人間からすると、LLMが文章を創発して生成しているようにみえるということになりますね。
栗原 そうなんです。複雑なものを人は追いきれませんから。そこを混同すると、AI脅威論のようなことになってしまう。
――どう考えても、私たちは何十兆のボキャブラリーは持ちえないですものね。
栗原 そうなんです。そうした名状しがたいものが背後にあったりすると、人はAIの中で新しいものが誕生したように思えてしまうということです。これがいろいろな誤解を生み出してしまうのです。
＊1 ダンカン・ワッツ：アメリカの社会学者。ソーシャルネットワークの研究で知られる。
＊2 バラバシ：理論物理学者。複雑なネットワークに共通して見られるつながりの構造発見で知られる。
＊3 Transformer：2017年に発表された深層学習モデル。それまでの学習モデルと比較して、大幅な学習時間の短縮を実現する。ChatGPTのTにあたる。
「TEZUKA 2020」はいかにしてつくられたのか
――コロナ禍直前の2020年のAIと人が協力して手塚治虫の新作をつくる「TEZUKA2020」*1プロジェクトの「ぱいどん」が、とてもおもしろかったです。過去の膨大なデータを学習することで能力を発揮するディープ・ラーニングが流行している現在と、記憶喪失のホームレスである主人公のぱいどんとが対照的ですし、最後にバッタが研究所を襲うシーンは群行動的ですし。
栗原 そのあたりはライターのアイデアです。この作品では、アイデアの元になる部分をAIが生成して、それをもとに、シナリオやコンテを人がつくりあげていくという方法で制作しました。
――キャラクターを生成するのも大変な作業だと拝察するのですが。
栗原 GAN（Generative adversarial network：敵対的生成ネットワーク）*2を使ったのですが。多くのデータを集めることが必要で、そこに苦労しました。手塚治虫は多くの漫画作品を描かれていますが、それでもデータとしては多いわけではありません。また漫画は白黒の世界で点と線しかないので、そこも難しいところでしたね。
――最初のネタ出しは、どんなスキームで行われていたのですか。
栗原 私たちが事前に手塚治虫の作品を手作業で分析をして、得られた特徴を組み込んだAIが手塚治虫的な設定から逸脱しないレベルで、さまざまな組み合わせを生成していきます。その中からライターが面白そうなものを選んで物語化していったのです。
――手塚作品的なものについては、どのように分析されたのですか。
栗原 手塚治虫の作品でいうと、社会問題や環境問題を取り込んでいたり、生命の尊厳が描かれていたりですとか、動物がよく出てきて、その動物が言葉を話すことが多いといったことですね。またどういうキャラクターが多いのかということもリストアップしました。作品の特徴を文字にして、設定やキャラクターを表にしていきました。
――作品データベースを手動でつくったということですね。
栗原 これは、手作業以外の方法はありえません。作品に込められるテーマも手動で抽出するしかないのです。たとえば「スター・ウォーズ」のルーク・スカイウォーカーやダース・ベイダーが出てくるシーンは親子の愛情の物語ですが、映画の台詞でそう語られることはありませんし、シナリオにもそう書いていないですよね。テーマが、作品中でそのまま語られることはなく、あくまで作品から私たちが感じるものなのです。そしてどういうテーマを好むのかが、作家によって異なるわけです。そうしたテーマ設定こそが作風なので、人が関与するしかありません。生成AIは、長い文章を削って要約することはできますが、物語のメタな解釈を行うことはできません。ただし、将来的にはAIにもテーマの理解はできるようになるのだとは思います。
――作家によって、ある言葉の出現頻度に応じて『もし文豪たちが カップ焼きそばの作り方を書いたら』（宝島社）のような文体模倣をさせるようなことはできそうですね。日本文学研究では、語彙や文法の変化も重視されていますし。
栗原 そういうことのほうがAIは得意だと思います。どちらかというと、行間を読むようなメタなところが苦手なんです。ただ、それは人間もだいぶ苦手になってきているようですけれど。
――画像AI生成ソフトMidjourneyを使って描かれた『サイバーパンク桃太郎』（新潮社）も話題になりましたが、ちょっと作為的な面が目立つ印象でした。
栗原 ダークな世界観ですしね。ただ、ああいう作品がすぐに出版されるスピードには驚きました。
＊1 TEZUKA2020：AI技術と人間のコラボレーションで手塚治虫の「新作」漫画の制作に挑むプロジェクト。プロジェクトのメンバーとして栗原聡氏が参加し、栗原研究室の学生が開発していたプロット生成技術で約130本のプロットを作った。
＊2 GAN（Generative adversarial network：敵対的生成ネットワーク）：教師なし学習で使用される人工知能アルゴリズムの一種であり、ゼロサムゲームフレームワークで互いに競合する2つのニューラルネットワークのシステムによって実装される。
責任とモラルは人間の手に
――ネット上の言説では、どのようなコンテクストで発せられた言葉なのかということが大切ですが、SNS上のいわゆる炎上の多くはそうした文脈を無視した発言によるものが多いですね。
栗原 そうしたリテラシーが失われている面はありますね。
――システムにおいても、児童虐待防止について取り組んでいる知人が“Child Abuse”というワードがあったためにアカウントがBANされたりもしました。
栗原 今のところ、ワード検索でフィルタリングするしか方法がありませんからね。
――以前先生が指摘されていましたが、AIによる証券取引で「テロ」という情報が流れることでフラッシュクラッシュ（相場の短期的な急落）を起こすこともあるわけですよね。
栗原 そうなんです。AIは私たちとは違う論理で動いていますから、そうした問題は、そう簡単にはなくならないです。
――人間が安心かというと、そうでもありませんものね。以前、証券取引所で「67万円で1株」を「1円で67万株」と誤入力してしまい、多大な損失を被った事案がありました。結局、裁判ではシステムを提供した会社にも責任があることになりましたけれど。
栗原 使う側にはシステムの構成はわかりませんから、そこは仕方がないところがあります。やはり責任やモラルについては最後は人間の判断に任せるしかありません。
ドラえもんは許容できないリスクを持っている？
――これまでなんども聞かれたかと思うのですが、 先生は少年時代から手塚作品には触れられてきましたか。
栗原 「ジャングル大帝」や「リボンの騎士」などは幼少期に観た記憶はありますが、私としては「機動戦士ガンダム」をはじめとするロボットアニメが昔も今も好きです。
――AIの研究をされている方にはSF好きだった方が多いのですが、先生はアニメに大きく触発されたのでしょうか。
栗原 おっしゃるとおり、アニメが原体験になっているところが大きいです。サンライズ制作のアニメはずっと観ていました。
――1990年代になるとエヴァンゲリオンや攻殻機動隊が出てきて。
栗原 実はそのあたりは、さほど熱狂していませんでした。攻殻機動隊は、作品としてよりもAI研究の視点で観ていました。世界観やキャラクター設定も凝っていましたし、人にとって意識とはなにかというテーマもありましたから。日本ならではの興味深い作品だと思います。
――先生は、日本では鉄腕アトムやドラえもんのようにロボットと共存する文化作品があるので人とAIとが共存する素地があると主張されています。「ドラえもん」もご覧になっていましたか。
栗原 もちろん観ていました。ただ「ドラえもん」より「鉄腕アトム」のほうに深い物語世界があります。アトムは天馬博士が亡くした息子の代わりにつくられた後に売られてしまい、そこでお茶の水博士に見出されて人間とともに社会性を学ぶことになります。それでもアトムは人間ではない自分の存在意義に悩んだり、命というものを考えたりする。そこには手塚治虫の、人とテクノロジーの関係というような問題意識が投影されているのだと思います。一方ドラえもんは、ロボットを意識させない生き物のようなキャラクターとして設定されていますよね。
――たしかに、ドラえもんを前にスネ夫がラジコンを自慢している姿も不思議です。ただ、人とロボットとが互いの意図していなかった方向で協調するのは微笑ましいとは思います。
栗原 よくも悪くも、漫画のキャラクターとして成立はしています。ただし、真面目に考えると今のところドラえもんは作れないんです。EUのAI規制法案でいうAIの4類型でいうと（下図参照）、人格に影響を与える最も許容できないリスクを持つとして禁止されていますから。現実的にドラえもんを考えるとかなり危険で、むしろアトムのほうが現実的なのです。
出典 https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
