大阪大学社会技術共創研究センター長・岸本充生氏に聞く
（２）AIがAIらしくあるようにする重要性

機械は嘘をつかないというアプローチが一番まずい

岸本　先日、リストバンドで脈拍を測って中学生の集中度を測る試みがTwitterでプチ炎上していましたが、あれも怖いですね。一番怖いなと思ったのは、そのテクノロジーを提供している側が、「脈拍はうそをつかない」というコメントを出していたことです。つまり、人はうそをついたり間違ったりするけど、機械には間違いはないという確信です。

桐原　AIは間違わないという認識は怖いですね。これはいろんな人に質問しているのですが、去年の暮れのワールドカップの「三笘の１ミリ」をどうご覧になりましたか。人間の判定よりもAIの判定のほうに人々は信頼を置くようになりました。

岸本　あれは１次データだからいいんです。ドローンで機械の腐食とかを見付けるのと同じで、人間の目では分からないものを判別するのに使うのは構わないと思います。しかし、それに対して、「集中度」は脈拍という1次データから推測したプロファイリングで２次データなんです。人の感情をプロファイリングするのは一番慎重でなければならない。発想としては嘘発見器と一緒です。

桐原　しかもなぜなのかは説明できないですよね。

岸本　こういう理由でこういうデータになりましたと説明できるならば、別に使い方はあると思います。それを機械は嘘をつかないみたいなアプローチでいくのが恐ろしい。似たような研究も、まさに僕の周りでいろいろやられていますが、研究倫理審査を通してやっています。社会実装となるとまたレベルが全然違いますからね。