AIがAIらしくあるようにする重要性
大阪大学社会技術共創研究センター長・岸本充生氏に聞く（２）
AIをめぐる混乱の多くは、受け取る側の人間のリテラシーの問題でもある。AIを擬人化して受け取ることの怖さやAIについて語る際のステレオタイプな言説の問題はどのあたりにあるのか。AIを社会に受け入れるとは、人間らしくあるように開発することでなく、機械らしい機械とすることが重要なのかもしれない。
岸本 充生（きしもと あつお）
大阪大学社会技術共創研究センター（ELSIセンター）センター長。大阪大学データビリティフロンティア機構（IDS）ビッグデータ社会技術部門教授。
京都大学大学院経済学研究科博士後期課程修了。 博士（経済学）。 独立行政法人産業技術総合研究所、東京大学公共政策大学院を経て、2017年から大阪大学データビリティフロンティア機構教授。2020年4月から新設された社会技術共創研究センター長を兼任。
共著に『基準値のからくり』（講談社）、『環境リスクマネジメントハンドブック』（朝倉書店）、『環境リスク評価論』（大阪大学出版会）などがある。
目次
- AIを擬人化して受け取ることの怖さ
- 機械はうそをつかないというアプローチが一番まずい
- 遠い人類の危機よりも目前の問題を解決していく方が優先されるべき
- EU議会が採択したAIのリスクから守るべき５つのこと
AIを擬人化して受け取ることの怖さ
桐原 ぜひ先生に伺いたかったことなのですが、生成AIが出てきたことによる、われわれの人間観や社会に対する見方への影響の大きさです。そもそも人間らしいとか人間的であるとか、人間の社会はこうあるべきだという考え方にかなりインパクトを与えているのではないかと思います。これまでは人間の側から見てAIはまだまだだと思っていたのに、いきなり人間と同等かそれ以上に見えるようになった。これをどう受け止めればよいのでしょうか。
岸本 僕はその質問に関しては保留というか、Yes and Noなところがあります。人間と同等かそれ以上かと言われれば、今の生成AIはやっぱり機械なんです。それをあえて人間らしいと受け取ることには反対です。AIはトレーニングデータを学んでいるだけです。今まであったもののうちのデータ化されたものだけを学んでいると考えたほうがいいでしょう。例えばアートであっても西洋アート中心で少数民族のアートもないし、昔の人のデータもない。そういうものをベースにしてつくられているものだというリテラシーがないと、とてもまずいと思います。なので、AIリテラシーの重要性がものすごく高まったと思います。自分でAIプログラムができなくてもいいけれど、文系でもメカニズムは理解しておいたほうがいい。
桐原 あくまで機械であると。
岸本 すでに人間と勘違いしてしまっている人が出てきています。つい最近の話ですが、アメリカで弁護士がありもしない判例を入れた書類を裁判所に出して問題になりました。彼のインタビューを読むと、ChatGPTのことをスーパー・サーチエンジンだと思ったと言っている。Google検索でも関連データベースにもないような、自分たちに有利になる判例を見付けてくれたすごいサーチエンジンだと。彼は真面目で、ChatGPTにこれは本当にあった判例ですかと聞いています。「はい、その通りです」と答えが返ってきて、ますます自信を深めて書類を提出してしまった。AIリテラシーがあれば騙されないはずなんです。特に、文献情報などは、LLM（大規模言語モデル）の性格上、よりもっともらしい、確からしい文言を並べるのが得意ですから。
桐原 現実にあるものよりも現実らしいものをつくってしまうわけですね。
岸本 センターのメンバーとも議論したときに、今の段階で擬人化が一番まずいので、機械が出した答えだということを明示したほうがいいという結論になりました。Twitter（現X）を見ていたら、海外の人で、ChatGPTが何か回答する度にこれは生成AIがつくったものですという表示をいちいち出すという提案をしている人がいました。僕は、機械が書いたとすぐわかるようにフォントを変えるのがいいと思っています。
桐原 UIで誰でもわかるようにするのですね。
岸本 生成AIで絵文字を使うのを禁止しようという提案もあります。絵文字を使うことでわざと擬人化を狙ってくる人はいますから。僕は、AI が人間を超えるかみたいな大きな話になる前に、ちょっと冷静になろうよと言いたいです。
桐原 確かジェフリー・ヒントンは生成画像に対してはウォーターマーク（透かしのこと。著作権表示などのために静止画像や動画に写し込まれる小さな図案や文字）を入れたほうがいいと言っています。
岸本 そうですね。文字のほうの対応はいくつかアイデアがあったんですけど、画像のほうはウォーターマークくらいしか浮かばないですね。
桐原 先ほどの弁護士の話ではないですが、もっともらしいというのが一番怖いです。見る側が見たいものを見せてくれる可能性が非常に高いですから。リテラシーの隙を突いてくる感じですね。こうあるべきだという自分のバイアスを反映したものが出てくるから。擬人化の話でいうと、日本人は生成AIという絵師がいるかのようにネット上で語ったりしがちです。
岸本 なんでも擬人化するのは日本のカルチャーで、ロボットなんかを受け入れやすいとかいい面もあるんですけど、生成AIに関しては危険だなと思います。
桐原 それこそ画像生成AIに絵を描かせるプロンプトのことを、「呪文」と言ったりするのを見ると、日本的だなと思います。先生が言われている機械が機械らしくあるようにするとは全く逆の方向で受け入れる姿勢です。
岸本 あえて呪文という言葉を使っているとは思うんですけど、それを一般の人が同じように捉えると誤解を招く可能性はありますね。
桐原 呪文という言葉が定着してしまうと、当たり前に生成AIがあるところで育った次の世代はどういう捉え方をするんだろうと想像したりしてみてますけど。
岸本 そこはどうなるか、まだ未知数ですね。
