AIを通じて人が深く考える社会の実現に向けて
――東京大学大学院准教授 馬場雪乃氏に聞く（３）
AIについては、いまだ過剰な期待や脅威をもって語られることが多い。馬場氏はAIを身近にある課題を解決するものと位置づけ、エンジニアとユーザーの間にある認識のちがいをなくすことが重要だと語る。インタビューは、馬場氏のAIを通じて実現したい社会のあり方や、人々がテクノロジーに思考を委ねることへの危惧へと話が及んだ。私たちが真剣に頭をめぐらせるべきことを問う最終回。
2024年5月23日 東京大学馬場雪乃研究室にて
 |
馬場 雪乃（ばば ゆきの） 東京大学大学院総合文化研究科広域科学専攻准教授。東京大学大学院情報理工学系研究科創造情報学専攻博士課程修了。情報理工学博士（東京大学）。国立情報学研究所特任研究員、京都大学大学院情報学研究科助教、筑波大学システム情報系准教授などを経て2022年より現職。人工知能学会理事・代議員。人工知能、人とAIの協働、集合知、クラウドソーシングの研究に従事。人間の正確な判断をAIに取り入れる機械学習技術を多数開発。JSTムーンショット型研究開発プロジェクトにおいて、人間と協働して研究を行うパートナーAIの開発を推進する。2024年IPSJ/IEEE Computer Society Young Computer Researcher Award受賞。共著書に『データサイエンティスト養成読本 機械学習入門編』（技術評論社）『ヒューマンコンピュテーションとクラウドソーシング』（講談社）がある。
|
目次
AIに求められる役割とは
都築正明（以下――） 少数の意見を拾い上げたり、多様な価値観を尊重したりという先生の研究姿勢の背景には、ご自身が中高生のころに辛さや息苦しさを感じられたりしたことに起因する実存的な動機もありますか。
馬場雪乃氏（以下、馬場） 多分にそうした経験がモチベーションになっています。思い上がりもあったのかもしれませんが、よいことを言っているはずなのに、どうして否定されるのだろう――そうした疑問を抱いたことは、現在の研究に強く影響しています。社会に出てから、どうして世の中は多数派の人たちの意見ばかりで成り立っているのだろうという疑問が湧いたこともあります。こうした経験でおぼえた思いや違和感は、いまの研究にも大きく影響していると思います。
――そのうえで、先生の実現したい社会像はどのようなものでしょう。
馬場 さまざまな人の意見を、きちんと反映できる社会にしていきたいという思いがいちばん大きいです。多くの人の意見を反映することが難しいからそれを避けて、単純でわかりやすく、一見平等にみえる投票を採用されているのが現状だと思います。話し合いで決めるにしても、その場に参加できるのは会話に長けたごく少数の代表者だけで、その場に参加できない人たちの意見はまったく反映されません。これから実現されるべきなのは、全世界の人々が議論に参加できるような社会の仕組みづくりだと思います。それは人の力だけでは実現できませんし、多くの人が同期して話し合うことも難しいので、テクノロジーの力を借りて、それと類似したことを実現することが重要だと思います。
――究極的なキュレーションになりますね。
馬場 物ごとを決めるというのは、とても難しいことです。しかし私たちがなんとか維持してきたシステムにも、いま綻びが出てきているように思えます。SNSの普及によって、代表者になれない層の人たちの意見が次々に表面化するようになりました。そこに配慮しつつ、意見としてまとめながら現実のポリシーに取り入れていくのは、人の力だけでは難しいですから、そこはAIの力を借りるしかないと思います。
――新しい価値観が出てきても、アテンション重視型になってしまいがちです。
馬場 そうですね。挙がったとしても実際の政策には反映されていきません。割れ物を扱うように、内心は納得してないけれど気をつかって配慮をみせることになってしまう。
――恐る恐る地雷を踏まないように道を歩くようなイメージですね。
馬場 そうなると、地雷を踏まないように歩くことを強いられる人も、不愉快な思いを抱いてしまいます。本当は対話が必要だと思いますが、すべての対話のテーブルにつくことは難しい。そこを判別したり、こういう立場の人はこう考えるだろうとシミュレートしたり、壁打ちをしたりと、AIでサポートできることは、たくさんあるのだと思います。
ユーザーとエンジニアが歩み寄るAI開発へ
――機械学習は、データ数が多ければ多いほどよいわけですから、より多くの人々を巻き込めれば精度も上がりますし、データ提供者の当事者意識も高まるだろうと思います。
馬場 現在は、開発する側がクラウドソーシングでお金を払ってデータをつくってもらい、それを元にAIアプリを作成するというフローが多くとられています。私としては、AIの開発側とユーザー側が、もっと密接にコラボレーションできるのではないかと思っています。日常にある問題を解決するときに、データを取るのは協力するのでAIを開発してください、というようなボトムアップのアプローチも可能なはずです。AI開発は手軽でスピーディにできるものですし、開発スキルもコモディティ化されているので手が届きやすいのですが、そのことがあまり知られていない気がします。人もお金もそれほどかけずにできるはずなのに、開発側がノウハウを抱え込んで利潤化している印象です。
――開発者とニーズを持っているユーザーとの認識の齟齬がなくなれば、もっとよいAIが開発できるということでしょうか。
馬場 AIアプリの開発をするコストにおいては、モデルの開発だけでなくデータ収集の比重も大きいですから、データを持っているユーザーと開発側が、もっと対等に開発してもよいかと思うのですが。
――たとえばどこかの市が教育の課題をかかえていたときに、中学生の全データを提供してAI研究や開発を依頼して、成果物を現場でつかえるようにすれば、相補的によいものができそうです。
馬場 私も、そのようにAIを身近なものにして進むことをイメージしているのですが、まだそこには至っていません。
――インタビューの冒頭で、先生が小学生のころプログラムを組まれていたお話を伺いました。以前はエンジニアが書いたのか小学生が書いたのかなどは関係なく、投稿されたBASICプログラムが雑誌に掲載されていましたよね。
馬場 せっかくコンピュータを使うのですから、そうあってほしいですね。
考えを託すAIではなく考えるためのAI
桐原永叔（以下、桐原） 世の中が混沌としてなかなか未来の見通しがうまくいかなくなってしまうと、ついAIに判断を任せたいと思う人も増えてくるでしょうね。
馬場 テクノロジーによって、物ごとに目を向けなくなっていくことについては、私も不安を抱いています。
桐原 テクノロジーの進化にともなって政治状況や生活が変わることで孤独感や不安がどんどん肥大していて、いまの若い人たちは正解だけにこだわるようになっていると聞きます。そうなるとますます自由に意見することを恐れて、みんなが正解だと思うものを知るまで答えをだしたくないと考えてしまう。考えることを放棄してしまう。
馬場 私もまさにそうした懸念のもとで、AIによってエンパワーメントしたり行動変容を促すことで、すべてに答えをだすことにとらわれず、考えたり参加したりすることを手放さないでほしいという気持ちで研究や開発をしています。
桐原 インターネット黎明期のカリフォルニア・イデオロギーのように、テクノロジーが普及することで民主的で幸せな世界が訪れるかといえば、それを享受できるのは頭がよくて考えるのが好きな一部の人たちで、多くの人たちは誰かに考えてもらい選択してもらいたくなる。自由を避けて権威にすがるというか……。結局、そういう人たちは規模の大きなビッグテックのようなプラットフォーマーに頼らざるをえなくなってしまう。
馬場 そこで搾取構造が強化されてしまうことは、とても心配です。多くの人がものを考えなくなる背景には、考えてもマジョリティに押し流されたり無視されてしまったりする徒労感や無力感があるのだと思います。あなたがちゃんと考えてくれたらAIが目立たせてくれるから、考えることを諦めないでください――とくに意見集約のシステムには、そうしたメッセージを込めたつもりです。
桐原 若い人は考えたくないのに承認はされたいという欲求も強いようです。
馬場 そこは深刻な課題だと思っています。若い人たちはTikTokのようにおすすめに挙がってきたものをずっと味わうことに慣れてしまっているので、ほんとうに危険だと思っています。自分で選択することを放棄していると、自分で考える能力が失われていくよ――と言いたいのですが、そうした言葉は若者には響きません。取捨選択というのは無駄を孕んだプロセスですから、TikTokやバズワードを拾っていくほうが楽ではありますけれど。
――考えていないことに気がつかないまま過ごすことが許容される、もしくは都合のよい環境ができているわけですね。
馬場 そうなんです。それを止めるために、どうしたらよいのだろうと考え続けています。
桐原 『映画を早送りで観る人たち』（光文社新書）を書いた稲田豊史さんの話で、倍速視聴する若者たちには考えるのは嫌だけど、コミュニケーションのためにコンテンツについては感想を用意しなければならないから、オタクのように他人から承認されうる意見を持っている人の感想を自分のもののように話す。
馬場 自分のものではない感想を共有して承認だけを得ることには、むしろ深い孤独を感じます。
――少し前に「悪は存在しない」という映画が話題になりましたが、あらかじめネタバレサイトでストーリーを頭に入れて、有名な人のレビューを読んでスタンスを決めてから鑑賞した人が多いことに驚きました。映画からの問いかけをすべてスルーしたら、なにも面白くはないと思うのですが。
馬場 身近にある小さな問題を考えることを他者に委ねる習慣がついてしまうと、答えの出ないことに耐えられなくなるのではないかと思います。大きな問題について、すぐに答えが出なくても考え続けることの大切さが忘れられてしまうと、取り返しのつかないことになりかねません。身近な問題を自分たちの力で解決していくことを積み重ねていって、大きなことにはより大きな力を持ち寄って解決していくことが大切だと思います。AIがその手助けをしてくれることになるとよいのですが。
桐原 手っ取り早く示されるわかりやすい解に飛びついてしまうと、テクノロジーは人々をコントロールするために使われてしまいかねません。映画「オッペンハイマー」が公開されて話題になりましたが、広島や長崎の犠牲はより多くの人たちを救うために仕方がなかったとして原子爆弾を正当化するようなロジックは、AIをめぐる話題においても繰り返されています。テクノロジーがもっと進化すればユートピアがやってくるのだから、多少の犠牲はやむを得ないという。
――世論誘導の常套手段は、不安を与えておいて、自分たちに都合のよい解答を注入して洗脳することですよね。多くの人たちがAIの実像をつかめずに怯えている現状で、特定の人たちに都合のよい解が示されると、多くの人がそちらに誘導される可能性があります。
馬場 人知を超えた超知能のようなものを想定して怯えてしまうところはありますね。ですから、身近にある課題をAIで解決するというステップがあれば、AIの実像やその限界もわかってくると思います。そうすれば、AIに惑わされて過剰に怯えたり過信したりせずに済むのではないかと思います。
――いま進行中のプロジェクトはありますか。
馬場 いまは意見集約のシステムを一般公開に向けて準備をしています。アイデアをイルミネイトするという意味で“Illumidea（イルミディア）”という名称をつけようと思っています。多くの意見をファシリテーターにみせて議論展開してもらおうとしても、ファシリテーター自身が気になったものをピックアップすることになってしまい、偏らない議論を進行することは難しいですよね。高校のクラスでの実証研究では意見数が50程度でしたが、意見数が1000になってしまうとAIがサポートしなければ整理することができません。このツールを公開することで、AIとともに議論を行うコンセプトを表明して、みなさんのリアクションを知りたいと思います。＜了＞
