人のパートナーとなるAIを探求する──慶應義塾大学教授・栗原 聡氏に聞く
第2回 シンボライズすることで見えてくること
言語を使って考えるとき、その背後では「古い脳」と呼ばれる進化的に根源的な領域も働いている。言語は単なる記号のやりとりではなく、感覚や経験、行動と結びついた“意味のネットワーク”をラベル化する営みだ。ディープラーニングやファウンデーション・モデルが進化するなかで、言語と記号、知覚、記憶の関係を再考する動きが始まっている。
取材： 慶應義塾大学AIC・生成AIラボにて
栗原聡（くりはらさとし）
慶應義塾大学理工学部教授。人工知能学会会長。慶應義塾大学共生知能創発社会研究センター センター長、慶應義塾大学大学院理工学研究所修了。工学博士。NTT基礎研究所、大阪大学、電気通信大学を経て2018年より現職。科学技術振興機構（JST）さきがけ社会変革基盤領域 研究総括。人工知能学会倫理委員会副委員長。オムロンサイニックエックス社外取締役、情報法制研究所上席研究員、総務省情報通信法学研究会構成員など。専門はマルチエージェントモデル、複雑ネットワーク科学、計算社会科学。著書『AI兵器と未来社会 キラーロボットの正体』（朝日選書）、『AIにはできない』（角川新書）、共編著『人工知能学大事典』（共立出版）など多数。
目次
言語により“古い脳”の知識を利用することもできる
都築 正明（以下―） ディープニューラルネットワークは、人類において肥大化した大脳の新皮質を模していますが、進化のアルゴリズムで獲得した生存にかかわる5億年にわたる記憶は旧皮質に遺されています。そう考えると、たかだか20万年前に登場したホモ・サピエンスの知能だけで、私たちが世界に対処できているとは考えがたいとも思います。
栗原 聡氏（以下栗原） 言語を扱うことの意義はまさにそこにあると思います。新皮質や旧皮質を含め、脳においては五感を通した外界からの非同期な感覚入力により、ニューラルネットワークが常に動的に様々な反応（ネットワークの様々な部分が興奮しては沈静化する）をしているわけですが、言葉とはその特定の一連の反応にラベルを付けるようなイメージを持っています。もしくは、特定の反応が、それに対応した言葉のイメージを活性化させると表現してもよいのだと思います。一連の入力とそれによる時系列的な反応に対して言葉というラベルを付ける能力を獲得したことで。複雑なものが綺麗に整理できるようになったのです。この効果は絶大です。その整理された空間における思考には、新皮質の記憶があるだけではありません。例えばリンゴという単語の背後には、単にリンゴという果物の種類だけでなく、赤い色や匂いなど、私たちがリンゴについて経験した全てに対して“リンゴ”という1つのラベルづけをしているわけです。従来の言語AIは単語のラベルのみを扱い、後ろにある膨大なものは置いてきぼりになっていました。
リンゴを英語で“apple”と呼べば違う記号になりますし、フランス語で“pomme”といえば違う記号になりますね、
栗原 今更ですがシンボルを単にシンボルとして捉えるだけでは意味がないということです。そこで、私たちが取り組んでいるのは、リンゴという単語からリンゴをめぐる複雑な関係性から抽出できるものすべてをシンボル化することです。そこには絵画に描かれたリンゴも入ってきますし、他言語のリンゴも入ってきます。現在のディープ・ニューラル・ネットワークを構成する個々のノードである人工ニューロンは数値を保持しているだけですが、私たちがつくっているシンボルネットワークを構成する個々のノードはそれぞれがシンボルです。いわゆる従来から存在するナレッジグラフの1つの表現の仕方であるといえばその通りです。文法的には名詞かもしれないし動詞かもしれません。そしてそれらの繋がり方は、とんでもなく複雑なネットワークになります。複雑なネットワークといっても、繋がっているのはシンボル同士なので、それが最終的にロボットの行動がシンボルネットワークにより導出された場合にも、どのようなシンボルを経由したのかが分かりますので、行動の意図を把握することが可能となります。ですから、その挙動はブラックボックスではなくなります。
