日本大学文理学部 情報科学科准教授・大澤 正彦氏に聞く
第3回 人とAIが歩み寄るヒューマンエージェント・インタラクションの可能性
AIの性能そのものを高めることではなく、人とAIが相互に適応し合う「関係性」を最適化することに焦点を当てるのが、ヒューマンエージェント・インタラクション（HAI）という新たな視点。「意図スタンス」をキーワードにAIと倫理、熟考するAIに話は及んだ。
大澤 正彦（おおさわ まさひこ）
日本大学 文理学部 情報科学科准教授。次世代社会研究センター（RINGS）センター長。博士（工学）。
1993年生まれ。東京工業大学附属高校、慶應義塾大学理工学部をいずれも首席で卒業。学部時代に設立した「全脳アーキテクチャ若手の会」が2,600人規模に成長し、日本最大級の人工知能コミュニティに発展。IEEE CIS-JP Young Researcher Award (最年少記録)をはじめ受賞歴多数。新聞、webを中心にメディア掲載多数。孫正義氏により選ばれた異能をもつ若手として孫正義育英財団会員に選抜。認知科学会にて認知科学若手の会を設立、2020年3月まで代表。著書に『ドラえもんを本気でつくる（PHP新書）』。
目次
- コンピュータと人を一体のシステムとして捉えて最適化する
- 性能が高いだけでは奏功しない理由
- 相互適応が引き出す“歩み寄り”のメカニズム
- 意図スタンスと倫理の関係をどう考える
- デネットの3スタンスとAI規制
- 設計スタンスを超えて個人の判断に委ねる挑戦
- 熟考するシステムをAIに取り入れる
- システム1／システム2とAI融合の可能性
- 直感と熟考を両立するAI設計とは
コンピュータと人を一体のシステムとして捉えて最適化する
性能が高いだけでは奏功しない理由
桐原永叔（IT批評編集長、以下―）ヒューマンエージェント・インタラクション（HAI）とはどんな概念なんでしょうか。
大澤 今まではAIの中身を賢くすることを一生懸命考えてきましたよね。コンピュータの中身が賢いかどうかで、コンピュータの良し悪しが決まっていました。だけど、HAIの視点から言うと、実は性能が低いコンピュータのほうが良かったりするんです。なぜかというと、HAIでは、コンピュータと人を一体のシステムとして捉えて、それを最適化しようという考え方をするからです。だから、コンピュータが中途半端に賢いと、人間に鼻につくと思われて使ってもらえないようなことがあってうまくいかない。性能が悪いコンピュータが困っていると、人間が助けてくれて、むしろ成功するみたいなことが起こるわけです。これは純粋な工学の人たちに理解されにくいかもしれないけど、性能が良いのがいいとは限らないという話です。実際に人間とAIがインタラクションして起こった現象を科学として扱って、その科学に基づいた工学をやっていく。それがHAIが大切にしていることだと思います。その手段として僕らは擬人化があると思っていて、HAIは擬人化した人工物とのインタラクションを扱っているとも言えます。ただの道具だったら、人間が歩み寄って助けてくれるなんてことはなかったのに、同じものが擬人化されるだけで人間がものを助けるということが起こる。つまり、人間側から歩み寄ってくれるという適応を引き出すんですね。相互適応ですから、もちろんAIも機械学習によって適応することを目指します。相互適応を引き出せるのがHAIの本質であると思います。
相互適応が引き出す“歩み寄り”のメカニズム
出来の悪いコンピュータを助けたくなるというのは、人間がそうした行動に向かうようにアフォーダンス1を引き出される、それが歩み寄るということなんでしょうか。
大澤 アフォーダンスはむしろ設計スタンスですね。ドアノブを見れば、握って引っ張りたくなるのは、そのように設計されているからです。両手に大荷物を抱えている人がドアの前でふらふらしてきょろきょろしていたら、困っていることがわかるからドアを引いてあげる。これが意図スタンスです。引き出される行動は同じドアを引くだけだれども、本能に訴えかけるアフォーダンスの設計スタンスと、心が通じ合ったから助けてあげるという共感を通した行動は違う。HAIが言う相互適応というか歩み寄りは後者なんです。
