東京大学大学院准教授 馬場雪乃氏に聞く
（３） AIを通じて人が深く考える社会の実現に向けて

考えを託すAIではなく考えるためのAI

桐原永叔（以下、桐原）　世の中が混沌としてなかなか未来の見通しがうまくいかなくなってしまうと、ついAIに判断を任せたいと思う人も増えてくるでしょうね。

馬場　テクノロジーによって、物ごとに目を向けなくなっていくことについては、私も不安を抱いています。

桐原　テクノロジーの進化にともなって政治状況や生活が変わることで孤独感や不安がどんどん肥大していて、いまの若い人たちは正解だけにこだわるようになっていると聞きます。そうなるとますます自由に意見することを恐れて、みんなが正解だと思うものを知るまで答えをだしたくないと考えてしまう。考えることを放棄してしまう。

馬場　私もまさにそうした懸念のもとで、AIによってエンパワーメントしたり行動変容を促すことで、すべてに答えをだすことにとらわれず、考えたり参加したりすることを手放さないでほしいという気持ちで研究や開発をしています。

桐原　インターネット黎明期のカリフォルニア・イデオロギーのように、テクノロジーが普及することで民主的で幸せな世界が訪れるかといえば、それを享受できるのは頭がよくて考えるのが好きな一部の人たちで、多くの人たちは誰かに考えてもらい選択してもらいたくなる。自由を避けて権威にすがるというか……。結局、そういう人たちは規模の大きなビッグテックのようなプラットフォーマーに頼らざるをえなくなってしまう。

馬場　そこで搾取構造が強化されてしまうことは、とても心配です。多くの人がものを考えなくなる背景には、考えてもマジョリティに押し流されたり無視されてしまったりする徒労感や無力感があるのだと思います。あなたがちゃんと考えてくれたらAIが目立たせてくれるから、考えることを諦めないでください――とくに意見集約のシステムには、そうしたメッセージを込めたつもりです。

桐原　若い人は考えたくないのに承認はされたいという欲求も強いようです。

馬場　そこは深刻な課題だと思っています。若い人たちはTikTokのようにおすすめに挙がってきたものをずっと味わうことに慣れてしまっているので、ほんとうに危険だと思っています。自分で選択することを放棄していると、自分で考える能力が失われていくよ――と言いたいのですが、そうした言葉は若者には響きません。取捨選択というのは無駄を孕んだプロセスですから、TikTokやバズワードを拾っていくほうが楽ではありますけれど。

考えていないことに気がつかないまま過ごすことが許容される、もしくは都合のよい環境ができているわけですね。

馬場　そうなんです。それを止めるために、どうしたらよいのだろうと考え続けています。

桐原　『映画を早送りで観る人たち』（光文社新書）を書いた稲田豊史さんの話で、倍速視聴する若者たちには考えるのは嫌だけど、コミュニケーションのためにコンテンツについては感想を用意しなければならないから、オタクのように他人から承認されうる意見を持っている人の感想を自分のもののように話す。

馬場　自分のものではない感想を共有して承認だけを得ることには、むしろ深い孤独を感じます。

少し前に「悪は存在しない」という映画が話題になりましたが、あらかじめネタバレサイトでストーリーを頭に入れて、有名な人のレビューを読んでスタンスを決めてから鑑賞した人が多いことに驚きました。映画からの問いかけをすべてスルーしたら、なにも面白くはないと思うのですが。

馬場　身近にある小さな問題を考えることを他者に委ねる習慣がついてしまうと、答えの出ないことに耐えられなくなるのではないかと思います。大きな問題について、すぐに答えが出なくても考え続けることの大切さが忘れられてしまうと、取り返しのつかないことになりかねません。身近な問題を自分たちの力で解決していくことを積み重ねていって、大きなことにはより大きな力を持ち寄って解決していくことが大切だと思います。AIがその手助けをしてくれることになるとよいのですが。

桐原　手っ取り早く示されるわかりやすい解に飛びついてしまうと、テクノロジーは人々をコントロールするために使われてしまいかねません。映画「オッペンハイマー」が公開されて話題になりましたが、広島や長崎の犠牲はより多くの人たちを救うために仕方がなかったとして原子爆弾を正当化するようなロジックは、AIをめぐる話題においても繰り返されています。テクノロジーがもっと進化すればユートピアがやってくるのだから、多少の犠牲はやむを得ないという。

世論誘導の常套手段は、不安を与えておいて、自分たちに都合のよい解答を注入して洗脳することですよね。多くの人たちがAIの実像をつかめずに怯えている現状で、特定の人たちに都合のよい解が示されると、多くの人がそちらに誘導される可能性があります。

馬場　人知を超えた超知能のようなものを想定して怯えてしまうところはありますね。ですから、身近にある課題をAIで解決するというステップがあれば、AIの実像やその限界もわかってくると思います。そうすれば、AIに惑わされて過剰に怯えたり過信したりせずに済むのではないかと思います。

いま進行中のプロジェクトはありますか。

馬場　いまは意見集約のシステムを一般公開に向けて準備をしています。アイデアをイルミネイトするという意味で“Illumidea（イルミディア）”という名称をつけようと思っています。多くの意見をファシリテーターにみせて議論展開してもらおうとしても、ファシリテーター自身が気になったものをピックアップすることになってしまい、偏らない議論を進行することは難しいですよね。高校のクラスでの実証研究では意見数が50程度でしたが、意見数が1000になってしまうとAIがサポートしなければ整理することができません。このツールを公開することで、AIとともに議論を行うコンセプトを表明して、みなさんのリアクションを知りたいと思います。＜了＞