人の人らしさと、AIのAIらしさのはざまにあるもの
――東京大学教授・松原仁氏インタビュー(2)

FEATUREおすすめ
聞き手 桐原 永叔
IT批評編集長

ディープラーニングによってAIの研究開発は、長い冬の時代を終えて第3次ブームを迎える。AIはさらに人らしくなりながら同時に、人には理解できないものへと変化していた。哲学や文学から得たものが、松原氏のAI研究へのアプローチを支えてきた。AIを通して人を知り、人を通してAIを知るという歩みのなかで、何をみてきたのか。AIの可能性を広げることは、人の可能性を広げることになるのだろうか。AIらしさ、人らしさとは、私たち自身の認識に委ねられている。

 

 

松原 仁(まつばら ひとし)

1959年、東京生まれ。86年、東京大学大学院情報工学博士課程修了。同年、通産省工業技術院電子技術総合研究所(電総研、現在の産業技術総合研究所)入所。現在、東京大学次世代知能科学研究センター(AIセンター)教授、はこだて未来大学特任教授。ロボカップ日本委員会会長、観光情報学会長、人工知能学会長などを歴任。将棋はアマ5段。著書に『AIに心は宿るのか』(集英社)など。

 

 

目次

ディープラーニングでは「なぜそうなったのか?」を説明できない

AIに小説を創作させるという試み

AIに心が宿るかどうかは人間の側の認知の問題

 

 

ディープラーニングでは「なぜそうなったのか?」を説明できない

 

桐原 人間がAIに対して脅威を感じるのは、なぜAIがそう判断したのか、説明がつかないことです。

 

松原 ディープラーニングはブラックボックス化しているとよく言われます。AIは、最適解は出せるものの、理由を説明できないという欠点を持っています。ただ、そこを突き詰めていくと、哲学の問題になってしまって、「本当の理由って何?」という疑問が出てきます。たとえば、お医者さんが患者さんに医学的にきちんと説明しだすと、患者さんにはとうてい理解できない話になってしまうので、嘘とは言わないまでも端折るところは端折ってわかるように説明しています。将棋とか囲碁も、「なんでこの手なんですか」と聞かれたときに、後から理屈をつけて理由を説明しますが、本当にそれが理由なのかどうかは本人ですらわからないこともあるのです。今のAIに求められているのは、相手がわかるような上手な説明の仕方だと思います。真の説明を求めてしまうと、結局すべてのデータをトレースするところを再現して見せることしかできないわけで、それは人間には理解できないことでしょう。

 

桐原 たとえば、将棋や囲碁の大会ですと、大盤解説といわれるものがありますね。それはAI将棋やAI囲碁でも行われています。プロ棋士がAIの指し手を観客に説明していますね。今さかんにいわれる「説明可能なAI」というのは、こうした解説の部分を担うということでしょうか。

 

松原 同じような役割は将棋や囲碁の世界以外でも求められてくるでしょう。社会に進出するにつれて、AIはさまざまな分野で人間を超えていきますから、AIの出した答えを人々にわかりやすく説明することができる専門家が必要になってくるでしょう。

 

 

 

 

AIに小説を創作させるという試み

 

桐原 人にも人のことがわからないという意味では、説明こそが重要なものかもしれませんね。人の不可解な行動や矛盾した思いを、たとえば芸術作品が表現することでシンパシーを抱けるようになったりします。芸術作品もある種の説明といえるかもしれません。そういえば、先生はAIに小説を書かせるプロジェクトもやられていますね。

 

松原 はい。SF作家でショートショートの名手・星新一さんの全作品を分析し、AIに小説を書かせるという研究で、「きまぐれ人工知能プロジェクト 作家ですのよ」です。AIが創造性を発揮することは可能かという問いに取り組んでいます。第3回日経「星新一賞」に応募したところ、一次審査を通過しました。実は星新一賞の応募規定には「人間以外(人工知能等)の応募作品も受け付けます」と書いてあるんですね。でも、AIに小説を書かせるなんて、そもそも人類でも初の試みです。そんな汎用性を備えたプログラムはないわけですから。

 

桐原 創造性はさておきAIが文章を作成するという取り組み自体は、すでに企業の決算報告や選挙報道、スポーツ結果報道などでおこなわれるようになっていて、私たちの目にふれるようになっています。

 

松原 論評の入らない速報記事はAIによって自動化が進んでいます。文字数としてはツイッター程度です。私たちの小説創作は2000字でしたから、格段に長い文章をつくったことになります。

 

桐原 言語学者のノーム・チョムスキーは、人間は普遍文法を生得的に備えているから言語を獲得できるとしています。そういった本能的な部分、生得的なルールをもって人が言葉を操っているとしたら、AIが学習のみで意味のある文章をつくるのが相当に高度なことがわかります。

 

松原 おっしゃる通り、AIに意味のある文章を書かせるのはたいへん難しい作業です。自然言語処理という技術は、音声アシスタントのSiriのように身のまわりで使われていますが、コンピュータが話せる言葉はせいぜい一、二文程度の短文です。自然言語処理は「解析系」と「生成系」に大別されます。Siriのように与えられたデータから意味のある情報を取り出すのが解析系で、小説の創作のように文章を作るのが生成系です。この生成系はいまだ発展途上です。そもそも、私たち人間自身も、文章がなぜ意味の通るものになっているのかが明確にはわかっていません。

 

桐原 わかっていないものを人為的にコンピュータにプログラムすることはできないというわけですね。

 

松原 はい。文章表現における「理解とは何か」を定義することができないので、コンピュータにプログラムするためのアルゴリズムを開発することもできないのです。

 

桐原 そうだとすると、「きまぐれ人工知能プロジェクト 作家ですのよ」ではどのような研究開発をされたのですか。

 

松原 「どうすれば一段落以上の意味の通る日本語の文章を機械的につくれるか」という課題を設定して取り組みました。冒頭は天気の記述が来て、次には場面説明がくるといった小説全体の構造を単語単位で規定しました。あとは日本語的表現の辞書を使い、破綻なく小説を組み立てていきます。つまり、ある法則性のもとに、言葉が変化すれば、それに応じて続く言葉や物語の展開を変化させるということをAIに延々とやらせるのです。誕生した小説は手を加えることなく応募しました。結果として、一次審査を通過したので、まずは成功と言えるでしょう。ただし、人間が設定やシナリオを与えているので、厳密な意味でAI作家とは言えません。次のステップは、星新一の小説をAIが解析して星新一が書くような小説を生成するAI作家を作ることです。

 

桐原 小説というもののあり方が変わってきそうですね。先生は小説家という職業が脅かされるとお考えですか?

 

松原 私は大の小説好きですから、そうなっては困ります。というか、そうはならないでしょう。まだまだAIのつくる文章は人間の作家には敵いません。ただし、人間にはできないこともあります。同じあらすじで、10万通りの表現の異なる作品を生み出すことができるのです。つまり、オーダーメイドで小説を書かせることができます。AI作家に好きな作家と小説のタイプを入力しておけば、AIがそれらを学習し、読者の好みに合わせてカスタマイズされたオリジナル作を膨大なパターンから選んで提供することができるかもしれません。

 

桐原 登場人物の心の動きや、それを創作した作家の思考法に共感して追体験できるのが小説を読む面白さだと思うのですが、AIが書いた小説でも同じような楽しみを得られるのでしょうか。

 

松原 もしもAIが書いた小説に対して読む人が作家自身の思考を感じることができたなら、このAI作家には心が宿っていると考えることができるでしょう。複雑精緻なストーリーと日本語表現に磨きがかかれば、それは可能だと考えています。

 

 

AIに心が宿るかどうかは人間の側の認知の問題

 

松原 私は理系にしては珍しく、人に興味があるし純文学も少女漫画も好きなんです。情報系の人間は、2次元症候群じゃないけど生身の人間よりも2次元のキャラクターが好きという人が結構いるんですが、私は生身の人間のほうにより興味を惹かれます。AI研究は人間を理解するのが基本です。それを心理学からトライする人もいれば、脳科学からトライする人もいる。AIという方法論は、プログラムをつくって動かして、うまく動かなければ作り直すという繰り返しです。人の脳や心はそんなふうには扱うことはできません。AIは人間のことを構成的に理解するという方法論をとれるところに強みがあると感じています。哲学も好きで、20代半ばから30ぐらいまで、寺小屋形式で哲学者を呼んで議論したことがずいぶん勉強になりました。ヴィトゲンシュタインの原書を読んだり、デカルトを読んだりして、自分の研究アプローチが歴史的にどういう流れの上にあるのか確認することができました。

 

桐原 先生は、AIのように部分部分をつくりながら全体を理解していく構成的なアプローチと、文学や哲学のように存在を問い詰めていくような分析的なアプローチの両面をお持ちですよね。それは先生が根本のところで人に興味があるからなんでしょうね。天馬博士は、トビオという息子を亡くしたのでアトムをつくったように、作中ではかなしみの深い複雑な性格を持った人間として描かれています。そういう複雑さこそ、最も人間らしいところですし、先生が惹かれたキャラクターである理由もこのあたりにありそうです。

 

松原 『鉄腕アトム』を読んでいると、哲学的なシーンが多いですよね。いまだに覚えているのは「人間が美しいと思えるものをぼくは美しいと思えないんだ」とアトムがしょげているシーンです。

 

桐原 アトムのそのエピソードはAIの直面している今日的な問題ですね。人間の意識や感情をコンピュータは理解できるのかという。

 

松原 1950年代から60年代に描かれていますから、手塚治虫は本当に天才だったと思います。

 

桐原 アトムが自分自身について再帰的にそう思えるということは、すでに感情を持っていると考えてもいいのではないですか?

 

松原 アトムは人間と遜色のない知能と感情を持っているという設定ですからね。ご存知のようにアトムは地球の平和を守るために悪と戦うのですが、戦っているシーンよりはそういった哲学的なシーンのほうが記憶に残っています。息子の手塚眞さんとは一緒にプロジェクトをやりまして、過去の手塚治虫の全キャラクターをAIでディープラーニングしてストーリーづくりに関与させて、『ぱいどん』(TEZUKA2020プロジェクト/講談社)という作品を生みだしました。

 

桐原 『AIに心は宿るのか』で、ロボットに心があるかどうかは見る人間側の問題だと書いておられます。

 

 

松原 アトムに心が宿っているように見えるのは、アトムと応対していて、アトムには心があると思ったほうが理解しやすいからです。予測可能性という言い方をしますが、人間は相手に自分と同じように心や意識や感情があると考えた方が将来を予測しやすい。今後、AIやロボットもそれなりの存在になってくれば、人間は心のある存在として扱うようになるのではないでしょうか。ここは怒ったフリをしたほうが相手に対して効果的であるとか、ここは悲しい顔をした方が相手も納得するだろうということは、人間もしょっちゅうやっているわけです。人間の母親は子供ができると慈しむようなホルモンが出ますが、AIやロボットにはそれがありません。けれどもホルモンは出なくとも人間の脳内の情報のやり取りを学習することで、子供を可愛がるのと同じように振る舞うことはできるでしょう。

 

桐原 AIに心が宿るかどうかは、人間の側の認知の問題なのですね。

 

松原 私たちが目の前のロボットに心があると仮定したほうが便利であれば、あるいは心があると仮定せざるを得ない状況に遭遇したならば、そのロボットは心があると考えても良いのだと思います。フレーム問題を解決した汎用AIと身体を備えたロボットであれば、私たちがそこに心があると仮定せざるを得ないほど人間同様の複雑な挙動をするはずです。私はいつの日になるかはわかりませんが、そうしたロボットが実現する日を確信しています。

 

(1)を読む→

(3)を読む→