私たちが見落としがちなのは、人間そのものへの研究、AIの研究開発それぞれについてではなく、人間とAIの関係性をていねいに読み解くという論点ではないだろうか。未だAIをめぐる議論はちゃんとした整理がつかないままになっている部分が多くある。それが人々をしてAIの研究開発を誤解させ、無用な脅威論さえ呼びおこしている。AIの研究開発を全体として論じることはますます難しくなるなかで、私たちが考えるべきことは何か。

取材／2021年10月27日　オンラインにて

 

 

川添 愛(かわぞえ・あい) 作家。1973年生まれ。九州大学文学部卒業、同大大学院にて博士号（文学）取得。2008年津田塾大学女性研究者支援センター特任准教授、2012年から2016年まで国立情報学研究所社会共有知研究センター特任准教授。専門は言語学、自然言語処理。著書に『白と黒のとびら』(東京大学出版会、2013年)、『精霊の箱(上・下)』(東京大学出版会、2016年)、『自動人形の城』(東京大学出版会、2017年)、『働きたくないイタチと言葉がわかるロボット』(朝日出版社、2017年)、『コンピュータ、どうやってつくったんですか? 』(東京書籍、2018年)、『数の女王』(東京書籍、2019年)、『聖者のかけら』(新潮社、2019年)、『ヒトの言葉 機械の言葉』(角川新書、2020年)、『ふだん使いの言語学』(新潮選書、2021年)、『言語学バーリ・トゥード』(東京大学出版会、2021年)がある。

 

【目次】

機械が人間っぽく見えることと機械に知性があるかないかは関係がない

AIが魔術的なものに見えてしまうのは原理への理解が不足しているから

コンピュータの基礎理論を寓話で表現したわけ

『言語学バーリ・トゥード』のルーツはプロレス×大槻ケンジ？

 

 

 

機械が人間っぽく見えることと機械に知性があるかないかは関係がない

 

桐原　言葉のコミュニケーションに関しては、私たちは受け取る側の理解力に依存することによって会話を成立させていますよね。そう考えると、AIが一方的に意図を持たずに何か喋ったとしても、受け取る側が人間の歩み寄りによっては会話しているかのように錯覚するということは起こりえますね。

 

川添　私たちがどう受け取るかということだけを考えれば、今のAIにも人間っぽい振る舞いをさせることができます。たとえば、AIに「小さい子供」というキャラクター付けをすれば、少々言うことが変でも「小さい子だから仕方がないかな」と思わせることができます。1960年代に出てきたELIZAという今でいうところのチャットボットは、本当に限られた会話しかできませんでしたが、その機械的な返答に「セラピスト」というキャラクター付けをしたおかげで、人間だと思い込む人がけっこういたそうです。キャラ付けをすれば、受け取る側に人間っぽく見せることはできるでしょうが、それと機械に知能があるかないかは関係のないことです。

 

桐原　機械と人間の関係性の問題と、機械と人間そのものの機能の違いは、一緒に語ると混乱してしまいますね。

 

川添　難しいのですが、そこはうまく切り分けて理解しないと、ロボットやAIを過剰に恐れてしまったり、逆にAIを信頼しすぎて「AIは万能だから何でも任せよう」ということになったりしてしまいます。

 

桐原　受け取る側で評価が違ってしまうということでは示唆的な例があります。簡単な会話ができる接客ロボットをある店舗に導入した話なのですが、子供は「このロボット喋っているよ」と言うのですが、お年寄りはタイミングが一拍ずれたりするだけで、「この機械は壊れている」とクレームを寄せるんです。機能としては同じでも、受け取る側のセンスで評価が変わってしまうというのは、関係性の問題なのでしょうね。

 

川添　面白いですね。接客ではうまくいったのが、介護の場面ではうまくいかないとか、AIが用いられる場所や利用する世代によって、評価が変わるのですね。そこをクリアしようとつくり込み過ぎると、人間がやったほうがコストがかからないなんてことになるかもしれませんね（笑）

 

 

AIが魔術的なものに見えてしまうのは原理への理解が不足しているから

 

桐原　AIをめぐる議論は、そのあたりをもっと整理しないと、AIを理解したり活用したりするのが難しいですよね。思ったよりも整理されていない気がします。

 

川添　これには仕方のない面もあります。AIと言っても多岐に亘り、画像認識をやっている人もいれば、自然言語処理をやっている人もいて、自動運転やAI倫理や意識について考えている人もいます。AIに関するすべての問題を網羅的に考えられる人って、ほとんどいないのではないでしょうか。世間的にはAIの専門家と見られている人でも、言語学者から見ると言葉の問題をあまり理解していないように感じられることもありますし、その逆もあるでしょう。AIに関する議論をていねいに整理する役割を一人の人間が担うのは難しいと思います。しかもそれを一般の人々に適切に伝えるとなると、さらに難しくなるでしょうね。

 

桐原　おっしゃるとおりですね。人間が関わるすべての学問とAIが関わる分野がオーバーラップすればするほど、全体を語ることは不可能な気もします。

 

川添　そんな中でも最低限しなければならないのは、多くの人々がAIやコンピュータの原理について理解できるようにすることだと思います。たとえば機械学習とか、そのなかのニューラルネットワークなどについて、多くの人が正しく理解することが重要だと考えています。AIに関する講演などに行くと、「今の人工知能って、機械で脳をつくっているんでしょう？」とか、「コンピュータに辞書を読み込ませれば、言葉が分かる機械を作れますよね？」と言われたりします。こういう反応を見ると、機械学習とかニューラルネットワークの内容以前に、コンピュータの仕組みというか、コンピュータがどうやって動いているかに関しても、ほとんど知られていないのだなと思います。コンピュータが魔法の箱のように見えてしまったり、AIが魔術的なものに見えてしまったりするのは、そうした原理の理解がないからかもしれません。どっちもやっていることは計算なんですよということを地道に伝えていくのが、冷静で正しい認識につながり、結果的に研究者もユーザーも信頼しあえる環境を実現できるのではないかと思います。

 

 

コンピュータの基礎理論を寓話で表現したわけ

 

桐原　期せずして、魔法という言葉が出てきました。先生は一連の作品（『白と黒のとびら』、『精霊の箱』上下、『自動人形の城』）でコンピュータを魔法というメタファーで語っていらっしゃいますが。

 

川添　先ほどは魔法を悪い意味で使いましたが、コンピュータの基礎理論は私にとっては面白くてミステリアスで、魔法みたいな美しさを感じさせるものでした。そういうこともあって、コンピュータの基礎理論を魔法になぞらえた物語を書いたのです。

 

 

 

桐原　それこそ意味と意図の織物である寓話で表現しようと思われたのはなぜでしょうか。

 

川添　私はコンピュータサイエンスの専門家ではないので、専門書ではなく、専門外の人たちに面白く読んでいただく本を書こうと思いました。当初は、気楽に読めるパズル本みたいなものを考えていました。一応キャラクターを出して、学ぶ立場の人間と教える立場の人間の対話形式で話を進めていったら、読者も感情移入できて面白いんじゃないか、と。そうやってキャラクターを入れて書き進めるうちに、単にパズルを解くよりもストーリーがあったほうがより楽しめるのではないかと思うようになりました。私自身、勉強が好きではなく、世の中に対する興味もさほど深いほうではないなんですが、ミステリー小説とかストーリーがあるものは夢中で読んでしまうんですね。それってやっぱり、「この先、主人公はどうなるのだろう」と気になるからですね。そういうストーリーの力を借りれば、楽しく読んでいくことができるのではないかと。最初は申し訳程度にストーリーがつく感じだったのですが、学術的な内容のチェックを依頼した情報科学の先生から、「ストーリーが甘い」とか「キャラの設定がぶれている」など、小説的な部分のご指摘を大量にいただいたんです。その先生は、「この話には大きな可能性を感じるから、真面目に小説として書いてください」と激励してくださったんです。そういう経緯で、小説として書き直したという裏事情があります。

 

桐原　主人公の男の子は、読み手の勝手な解釈でいうと、一人のエンジニアがプログラムを覚えていく過程というふうに読み取ることができて、ビルドゥングスロマン的な趣も感じました。

 

川添　エンジニアの話として読んでいただけるのは嬉しいです。まあ、主人公のモデルは私なんですけどね（笑）　いろんなことに打ちのめされながら研究していた、つらい学生時代の話がベースなんです。

 

桐原　マイスターと呼ばれる魔法使いのようなエンジニアにお会いしたことがありますが、それに対して部下の20代のエンジニアたちは本当に魔法使いの弟子みたいかもしれません（笑）

 

 

『言語学バーリ・トゥード』のルーツはプロレス×大槻ケンジ？

 

桐原　本当にストーリーが巧みで、危機が迫ったり時間のリミットが設定されていたりして、読み手の集中力が高まるじゃないですか。まんまと罠にハマった感があります。だいたいお書きになるときには査読を頼まれるのですか。

 

川添　そうですね。言語学以外のことを書くときには自分の理解が正しいかどうか自信がないので、必ず専門の方に読んでいただいてチェックしていただいてます。

 

桐原　『言語学バーリ・トゥード』は査読があったんですか？

 

川添　あれはいちおう言語学の本なので、好き勝手に書かせていただいています。

 

 

 

 

桐原　あの本の軽妙さというかユーモア感覚は、それこそどこで学習されたんでしょうか。

 

川添　研究者時代がずっと辛かったので、息抜きにプロレスを見たり、漫画や面白いエッセイ本を読んだりしていました。エッセイだと大槻ケンジさんやカレー沢薫さん、米原万里さんなんかが大好きで読んでいました。東京大学出版会さんからお話をいただいたときに、自分の好きなエッセイストになりきって書こうかなと連載を始めました。

 

桐原　どうしても、AIは人間のようになるのかとか人間を超えるのかという話に流れがちですが、今日お話をお伺いして、AIと人間の距離感について、ていねいに測り直す必要があるなと感じました。

最後になりますが、先生ご自身がAIに期待するものはありますか。

 

川添　今後、自分が歳をとっていったときに、身のまわりの生活を助けてくれるAIがあればいいなと思っています。一人暮らしの高齢者も増えてくると思うので、介護ロボットとまではいかなくても、ちょっとした家事を手伝ってくれるようなロボットやAIが出てくることを期待しています。（了）

→（１）を読む

→（２）を読む