日本大学文理学部 情報科学科准教授・大澤 正彦氏に聞く
第５回 半自律AIが拓く「人とAIの共創インタラクション」の可能性
生成AIの進化とともに注目されるAIエージェントだが、長年HAI領域に携わる大澤氏は、自律性だけでなく、人とAIが協働する「半自律システム」にも可能性があると語る。人間の社会的認知や相互適応を通じて見えてくる、AIとの新たな関係性とは──。
大澤 正彦（おおさわ まさひこ）
日本大学 文理学部 情報科学科准教授。次世代社会研究センター（RINGS）センター長。博士（工学）。
1993年生まれ。東京工業大学附属高校、慶應義塾大学理工学部をいずれも首席で卒業。学部時代に設立した「全脳アーキテクチャ若手の会」が2,600人規模に成長し、日本最大級の人工知能コミュニティに発展。IEEE CIS-JP Young Researcher Award (最年少記録)をはじめ受賞歴多数。新聞、webを中心にメディア掲載多数。孫正義氏により選ばれた異能をもつ若手として孫正義育英財団会員に選抜。認知科学会にて認知科学若手の会を設立、2020年3月まで代表。著書に『ドラえもんを本気でつくる（PHP新書）』。
目次
自律システムと半自律システム
桐原永叔（IT批評編集長、以下―）今年に入ってから、やたらとAIエージェントの話が出てきていますが、ChatGPTをはじめとする生成AIが出てきたのは大きいですよね。
大澤 確かに、実用化レベルで普及したのは大きいですね。
今日のお話を聞いていると、AIエージェントで必ずテーマにされる自律性についても少し見方が変わってきます。
「半自律」がもたらす相互適応の効果
大澤 自律だけが正義ではないとは思っていて、それこそ半自律システムみたいなことを研究としてやっていたこともあります。半自律だと人間が半分やらなきゃいけないから、中途半端なシステムと思われるかもしれないですけど、人間がやっているかもしれないし、AIがやっているかもしれないという条件になると、AIがやっているときにも人は人とかかわっているように接するんです。
それはどっちだかわからないからですね。
大澤 AIエージェントって人間扱いされることはないじゃないですか。今の一般的なAIエージェントは、自然言語で聞くと言葉でわかりやすく返してくれるシステムだと思われています。AIに対して、「初めまして、私こういうもんなんです」みたいな人間に話すような感じで丁寧に話すことはなくて、命令口調ですよね。普通、人に対しては初対面でそんなこと言いませんよね。でも半自律システムだとそうじゃなくなるんですよ。人間だと思って接するから、こんな簡単な質問して大変恐縮なんですけど、みたいな感じになります。
それって不便なんじゃないですか。
大澤 必ずしもそうでもないんです。例えば、僕の研究室でメンタリングシステムの研究をしていて、まずメンタリングのUIをつくりました。WEBでメンタリングできるようにして、それを計測できるようにして、最初は僕が学生とそのシステムを通してメンタリングするというトライアルをやったんです。そのときに、「どんな研究をしたいんですか」って聞いたら、研究室の学生が「AIの研究したいです」って、何も考えていないのがバレバレの答えを返してきたんですね。それで「どんな研究をしたいんですか」って一字一句同じでもう1回質問したら、すごい慌てて、こんな答え方じゃダメだって気がついて、いや本当は機械学習がやりたくて、機械学習のなかでもこういう分野に興味があって、と一生懸命返してくれた。なるほど、2回質問するってこんないい方法なんだと思って、AIのシステムでも2回連続で同じ質問するようなことが起こるようにつくって、100人の学生に一斉に実験でやってみたところ、AIが壊れましたと苦情の嵐でした。
何が違ったんでしょうか。
大澤 言葉のやり取りとしては、同じ質問を2回繰り返すのは一緒なんです。文字だけなので、声とかノンバーバルも関係ない。何が違ったかというと、社会的存在感（ソーシャルプレゼンス）が違っていて、学生がそのAIエージェントもしくは人間に対してどれだけその存在を大きなものとして捉えているかとか、その人にとってどういう存在なのかという、学生が想定しているイメージによってチャットの意味合いが変わるということです。ということは、100％AIがやるのではなくて、半自律システムで99％AIがやるけど、1％だけ人間が手伝うほうが優れたシステムだという解釈もできるわけです。
