慶應義塾大学理工学部教授　栗原 聡氏に聞く
（１）人とAIのインタラクションはどこへ向かうのか

「TEZUKA 2020」はいかにしてつくられたのか

コロナ禍直前の2020年のAIと人が協力して手塚治虫の新作をつくる「TEZUKA2020」⁴プロジェクトの「ぱいどん」が、とてもおもしろかったです。過去の膨大なデータを学習することで能力を発揮するディープ・ラーニングが流行している現在と、記憶喪失のホームレスである主人公のぱいどんとが対照的ですし、最後にバッタが研究所を襲うシーンは群行動的ですし。

栗原　そのあたりはライターのアイデアです。この作品では、アイデアの元になる部分をAIが生成して、それをもとに、シナリオやコンテを人がつくりあげていくという方法で制作しました。

キャラクターを生成するのも大変な作業だと拝察するのですが。

栗原　GAN（Generative adversarial network：敵対的生成ネットワーク）⁵を使ったのですが。多くのデータを集めることが必要で、そこに苦労しました。手塚治虫は多くの漫画作品を描かれていますが、それでもデータとしては多いわけではありません。また漫画は白黒の世界で点と線しかないので、そこも難しいところでしたね。

最初のネタ出しは、どんなスキームで行われていたのですか。

栗原　私たちが事前に手塚治虫の作品を手作業で分析をして、得られた特徴を組み込んだAIが手塚治虫的な設定から逸脱しないレベルで、さまざまな組み合わせを生成していきます。その中からライターが面白そうなものを選んで物語化していったのです。

手塚作品的なものについては、どのように分析されたのですか。

栗原　手塚治虫の作品でいうと、社会問題や環境問題を取り込んでいたり、生命の尊厳が描かれていたりですとか、動物がよく出てきて、その動物が言葉を話すことが多いといったことですね。またどういうキャラクターが多いのかということもリストアップしました。作品の特徴を文字にして、設定やキャラクターを表にしていきました。

作品データベースを手動でつくったということですね。

栗原　これは、手作業以外の方法はありえません。作品に込められるテーマも手動で抽出するしかないのです。たとえば「スター・ウォーズ」のルーク・スカイウォーカーやダース・ベイダーが出てくるシーンは親子の愛情の物語ですが、映画の台詞でそう語られることはありませんし、シナリオにもそう書いていないですよね。テーマが、作品中でそのまま語られることはなく、あくまで作品から私たちが感じるものなのです。そしてどういうテーマを好むのかが、作家によって異なるわけです。そうしたテーマ設定こそが作風なので、人が関与するしかありません。生成AIは、長い文章を削って要約することはできますが、物語のメタな解釈を行うことはできません。ただし、将来的にはAIにもテーマの理解はできるようになるのだとは思います。

作家によって、ある言葉の出現頻度に応じて『もし文豪たちが カップ焼きそばの作り方を書いたら』（宝島社）のような文体模倣をさせるようなことはできそうですね。日本文学研究では、語彙や文法の変化も重視されていますし。

栗原　そういうことのほうがAIは得意だと思います。どちらかというと、行間を読むようなメタなところが苦手なんです。ただ、それは人間もだいぶ苦手になってきているようですけれど。

画像AI生成ソフトMidjourneyを使って描かれた『サイバーパンク桃太郎』（新潮社）も話題になりましたが、ちょっと作為的な面が目立つ印象でした。

栗原　ダークな世界観ですしね。ただ、ああいう作品がすぐに出版されるスピードには驚きました。

責任とモラルは人間の手に

ネット上の言説では、どのようなコンテクストで発せられた言葉なのかということが大切ですが、SNS上のいわゆる炎上の多くはそうした文脈を無視した発言によるものが多いですね。

栗原　そうしたリテラシーが失われている面はありますね。

システムにおいても、児童虐待防止について取り組んでいる知人が“Child Abuse”というワードがあったためにアカウントがBANされたりもしました。

栗原　今のところ、ワード検索でフィルタリングするしか方法がありませんからね。

以前先生が指摘されていましたが、AIによる証券取引で「テロ」という情報が流れることでフラッシュクラッシュ（相場の短期的な急落）を起こすこともあるわけですよね。

栗原　そうなんです。AIは私たちとは違う論理で動いていますから、そうした問題は、そう簡単にはなくならないです。

人間が安心かというと、そうでもありませんものね。以前、証券取引所で「67万円で1株」を「1円で67万株」と誤入力してしまい、多大な損失を被った事案がありました。結局、裁判ではシステムを提供した会社にも責任があることになりましたけれど。

栗原　使う側にはシステムの構成はわかりませんから、そこは仕方がないところがあります。やはり責任やモラルについては最後は人間の判断に任せるしかありません。

ドラえもんは許容できないリスクを持っている？

これまでなんども聞かれたかと思うのですが、 先生は少年時代から手塚作品には触れられてきましたか。

栗原　「ジャングル大帝」や「リボンの騎士」などは幼少期に観た記憶はありますが、私としては「機動戦士ガンダム」をはじめとするロボットアニメが昔も今も好きです。

AIの研究をされている方にはSF好きだった方が多いのですが、先生はアニメに大きく触発されたのでしょうか。

栗原　おっしゃるとおり、アニメが原体験になっているところが大きいです。サンライズ制作のアニメはずっと観ていました。

1990年代になるとエヴァンゲリオンや攻殻機動隊が出てきて。

栗原　実はそのあたりは、さほど熱狂していませんでした。攻殻機動隊は、作品としてよりもAI研究の視点で観ていました。世界観やキャラクター設定も凝っていましたし、人にとって意識とはなにかというテーマもありましたから。日本ならではの興味深い作品だと思います。

先生は、日本では鉄腕アトムやドラえもんのようにロボットと共存する文化作品があるので人とAIとが共存する素地があると主張されています。「ドラえもん」もご覧になっていましたか。

栗原　もちろん観ていました。ただ「ドラえもん」より「鉄腕アトム」のほうに深い物語世界があります。アトムは天馬博士が亡くした息子の代わりにつくられた後に売られてしまい、そこでお茶の水博士に見出されて人間とともに社会性を学ぶことになります。それでもアトムは人間ではない自分の存在意義に悩んだり、命というものを考えたりする。そこには手塚治虫の、人とテクノロジーの関係というような問題意識が投影されているのだと思います。一方ドラえもんは、ロボットを意識させない生き物のようなキャラクターとして設定されていますよね。

たしかに、ドラえもんを前にスネ夫がラジコンを自慢している姿も不思議です。ただ、人とロボットとが互いの意図していなかった方向で協調するのは微笑ましいとは思います。

栗原　よくも悪くも、漫画のキャラクターとして成立はしています。ただし、真面目に考えると今のところドラえもんは作れないんです。EUのAI規制法案でいうAIの4類型でいうと（下図参照）、人格に影響を与える最も許容できないリスクを持つとして禁止されていますから。現実的にドラえもんを考えるとかなり危険で、むしろアトムのほうが現実的なのです。

出典　https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai