人と AI とが共存するカギを探る
ーーERATO 脳 AI 融合プロジェクトメンバー 紺野大地氏に聞く（３）
脳と AI の融合がすぐに実現するわけではない。そこには乗り越えるべき課題がいくつかある。最終回は、倫理的課題や人とAIが共存するためのポイント、そして脳＋AIが導く未来像について伺った。紺野氏の研究者としてのベースにある人間観、幸福観にまで話が及んだ。
2022 年 11 月 4日 オンラインにて
 |
紺野 大地（こんの だいち） 医師・神経科学者。1991 年、山形県生まれ。2015 年、東京大学医学部卒業。2018 年、東京大学大学院医学系研究科博士課程入学。東京大学医学部附属病院老年病科医師。池谷裕二研究室と松尾豊研究室にて脳と人工知能の基礎研究に従事。「ERATO 池谷脳 AI プロジェクト」メンバーとして脳や人工知能の研究を通じて「脳の限界はどこにあり、テクノロジーによりその限界をどこまで拡張できるのか」を探究している。 著書『脳と人工知能をつないだら、人間の能力はどこまで拡張できるのか 脳AI融合の最前線』（講談社）。Twitter（@_daichikonno）や NOTE（https://note.com/daichi_konno/）で脳・人工知能・老化について情報発信するほか、メルマガ”BrainTech Review”で最新研究を紹介する。 |
目次
侵襲とプライバシーという2つの倫理的課題
―― 脳と AI の融合において、倫理的なハードルを感じられることも多いと思うのですが。
紺野 倫理上の大きなハードルは 2 つあると思っています。1 つは身体への侵襲、もう 1 つは脳のデータについてのプライバシーの問題です。
―― まず身体への侵襲については、どうお考えでしょうか。
紺野 まず身体への侵襲について、医療分野においては、十分克服可能だと考えています。既存の医療でも、患者さんの身体に針を刺したりメスで切ったりということがなされています。侵襲度合いにもよりますが、リスクよりも明らかにベネフィットが大きければ許容されると思っています。最初は、現在 Neuralink が進めているような、ALS や四肢麻痺の患者さんが車椅子を動かすような分野からスタートするかと思いますが、徐々に精神疾患についても適用されていくと考えています。健康な人への適用について、Neuralink 設立者のイーロン・マスクは、将来は Neuralink の手術をレーシック手術と同じような感覚で受けられるようにしたい、と言っています。私はこれを面白い着眼点だと思っています。レーシックや眼内レンズの手術は十分に安全性が確立されており、健康な人が身体にメスを入れて視力を高めます。同じように、リスクや副作用とかが十分検証されていて、明らかなメリットがあれば、希望者が手術を受けられるようになる可能性はあると思います。スマートフォンのように、人口の90％が脳にデバイスを埋め込む時代は来ないと思いますが、レーシックやコンタクトレンズのように、希望すれば 5％や10％の人が安全に受けられるという時代は、来てもおかしくないと思います。
―― 脳のデータについてのプライバシーについてはいかがでしょう。
紺野 私は、解決し得る道筋があると思っています。現在、医療分野では、病院が持っている医療データの所有権を患者さん個人に渡そう、という議論がなされています。患者のデータの所有権は患者自身にあり、本人が許可すれば医師がそれを閲覧できる、という方向性です。これと同じように、脳のデータについても、基本的に所有権は個人にあるものとして、ブロックチェーンで盗難に遭ったり改ざんされたりできないようにした上で、個人の許可があれば企業や施設に開示することができるようにすれば、プライバシーの面は解決できるだろうと思います。
―― このまま実用できる範囲が広がると、脳の情報は、医療情報のポータビリティ以上に活用できることになりますものね。ただし、個人に帰せられる責任は大きくなります。
紺野 また、個人を超えた倫理全体について考える必要もあります。たとえば 1940-60 年代にはロボトミー手術が流行しましたが、その後様々な経緯から精神疾患に対する外科的介入がタブー視され、精神疾患研究が停滞した歴史もあります。最先端研究を急ぐあまり、倫理面を考慮しないで突っ走ってしまう、ということが起こらないよう、国際的な合意を形成することが必要です。日本では、有効性・安全性や技術的な限界、使用上の注意や懸念される倫理的課題について記された「ブレインテック・ガイドブック」が作成されるなど、世界の中でも先進的な取り組みを行っています。ただし、ガラパゴスで終わってはいけないので、積極的に世界に発信していくことが重要だと思っています。
―― 一方、ブレインテック企業の数や規模は、やはりアメリカが大勢を占めています。
紺野 どの業界もそうですが、プラットフォームを少数の企業に握られてしまうと、周辺のビジネスもその企業に囲い込まれてしまいます。この点で、まさに今が黎明期にあるブレインテックやニューロテックに力を入れていくのは意義のあることだと思います。特に脳のプライベートなデータがすべて他国にある、という状況は倫理的にも安全保障上も問題があると考えています。
―― AIに限っても、アメリカのバイデン大統領が「AI 権利章典のための青写真」を出したり、EU で法規制案が出てきたりと、国際的なコンセンサスを確立するには時間がかかりそうですね。
人と AI とが共存するカギは何か
―― 人と AI とが、どのように共存していくか、ということについて、先生はどうお考えでしょう。臨床においても、人間の医師が相手であれば、納得できないことも、質問すれば答えてくれるだろうという安心感があると思います。「AI がそう言っているから」という説明だけでは、納得できない患者さんも多いと思います。
紺野 私としては、そのあたりも多分過渡期に過ぎない、と思っています。 XAI（Explainable AI：説明可能なAI）のように、AI 自身に、どうしてそういう判断を下したのかを説明させる研究も進んできています。遠からず、AI がその自分の判断の根拠を、人間が理解可能な形で説明する技術は、できるようになるのではないでしょうか。あとは人間側が AI の言うことを心情や感情のレベルで納得できるかどうかだと思います。
―― 機械に身を委ねることへの心理的抵抗というのは根強い気がします。
紺野 私はそこについても楽観視しています。これから 30 年くらい経つと、AI のほうが正しい診断をする場面が確実に増えると思いますし、患者さんのほうも「AI が見逃したんだったら、しかたがないな」と納得してくれるような時代になると思います。
―― そのレベルになると、やはり AI のブラックボックス化を克服する必要がありますよね。
紺野 そうですね。とはいえ、AI が実際に行っている数百万次元の計算を、人間が理解できるようにはなりません。ただ、AI が、説明のレベルを人間が理解可能なレベルまで落としてくれて、かつそれが人間にとって十分納得できるようなレベルに到達する、ということは十分可能になると思っています。そういう意味で、説明可能性については、本質的な解決ではないまでも、AI と人間とのよい関係を保てるようになるのではないのかと考えています。
―― 説明において、医師が、AI との仲介者になる段階も考えられますね。
紺野 確かにおっしゃる通りです。
―― 先日、この「IT批評」で人とAI が共存する社会について、産総研の辻井先生にお話を伺いました。将棋の世界では将棋 AI が指した手をプロの棋士が解説することで、共同で説明可能性を高めています。チェスではもっと以前から行われていますよね。AI と人間とがともに進化する CAI（Co-evolutional AI：共進化AI）は、世代が変わっていくことで、自然になされていく、という理解でよいでしょうか。
紺野 はい、まさにそう思います。
―― これからの医師は、AI の出した診断について、患者さんに分かるように説明してあげるリテラシーを高める必要がありますね。
紺野 私はそれも過渡期だと思っています、説明があまり上手でない医師よりも上手に説明できる AI を確実に作ることができると思いますから。
―― AI がその他の分野で果たす役割が大きくなってくると、人間側も相当リテラシーを高めなければなりませんね。今、プログラミング教育が導入されて、小学校ではロボットをつくったり、タブレット端末で研究発表をさせたりしていますし、中学校ではVBA （Visual Basic for Applications）を組んだりしています。AI がコーディングをする時代には、外部設計や上流工程を学んでおいたほうが、実践的ですね。
脳＋AI が導く未来像
―― AI というものが誕生して、さまざまな学問分野を横断して考えられる、というのは大きなことですよね。
紺野 私自身、年齢を重ねるにつれて新しいことを知る楽しさはどんどん増えています。神経科学や医学を熱心に研究しつつも、物理学や化学にも興味は湧きますし、文化芸術についても知りたいと思っています。
―― 多彩な興味関心が、研究に反映されることもありますか。
紺野 インプットすること自体が楽しいと、ものごとを長いスパンで考えることができる気がします。先ほど、うつ病の診断を例にあげましたが、アウトプットについて必ずしもその時点で説明ができなかったとしても、それを仮説として検証することで、それが科学的な真実や真理になり得ることが多くなってきます。私には、世界が人間にとって理解可能なようにできているではずだという考えが、傲慢だと思えることもあります。先ほどのうつ病の例のように、理由はわからないけれど診断できる、ということがあるように、人間には理解できないことは、世の中に溢れています。そのわからなさを受け入れた方がいいんじゃないのかな、と思います。科学万能説から離れる要素があってもいいんじゃないかな、と。人工知能の研究者・丸山宏先生は、シンプルな原理で自然界を説明するのをよしとする従来の科学の考え方は、人間の認知の限界から生まれているのではないか、と主張しています。また大量の変数を用いて世界をモデル化する科学を、従来の科学に対置して「高次元科学」と表現しています。ビッグデータと人工知能で、世界をそのままモデル化する考え方ですね。
―― 先生の想像する未来像は、どのようなものでしょう。
紺野 私は、自分の生きている間に、健康な人が希望すれば侵襲型のデバイスを脳内に埋められる時代が来ると考えています。そして、私もそこに何らかの形で貢献したいと思っています。先ほど話題にのぼったユヴァル・ノア・ハラリは『ホモ・デウス』で、人類は「不死と幸福、神性をめざす」と記しています。脳と AI を融合できる時代が来れば、うつ病や精神疾患の患者さんを減らすことで人類全体の幸福度を増すことも可能かもしれません。他にも、朝は一瞬で起きられて、夜は一瞬で寝られる、ということもそうですし、常に脳活動をモニタリングして、気分が落ち込みそうになったら未然に防ぐことができるようになるかもしれません。科学の進歩というのは、人々の幸福に生かされるべきだと思いますから、神経科学の進歩が人々の幸福に直結する未来が訪れるといいな、と思っています。
―― 先生は、ジュール・ヴェルヌの言葉がお好きだそうですね。
紺野 「人間が想像できることは、人間が必ず実現できる」という言葉が、とても好きです。
―― この「IT批評」をやっているトリプルアイズの経営理念は「テクノロジーに想像力を載せる」というもので、同じくヴェルヌの言葉に思いを馳せた言葉なんです。
紺野 人間が想像できることの大半は実現できると、私も思っています。だからこそ、AI を用いて脳の限界を知り、その可能性を広げることに惹かれているのかもしれません。
―― ヴェルヌの著した『月世界旅行』や『海底二万哩』などは、執筆当時は空想物語でしたが、後世の人たちによって現実のものとなりました。またエリック・ロメールによって映画化された『緑の光線』という小説は、水平線に夕日が沈む一瞬に発する緑色の光線を目撃すると、自分や相手の心を見ることができるようになる、という言い伝えに基づいて、主人公が水平線を求めて旅をするストーリーです。脳AI融合で先生が研究をされている姿に重なるものがありますね。
紺野 世界のありようを解明する、偉大な発見や発明というのは、これまで天才のひらめきであったり、セレンディピティによるものであったりしてきました。ビッグデータと人工知能を用いて世界をモデル化することができたら、どうでしょう。もちろんそれは、その時点では人間が理解できるものではないでしょう。しかし、そのわからなさを受け入れつつも切り捨てないようにしていけば、いつか人間がそこから新しい発見をするかもしれません。脳とAIとの共進化は、それぞれのプロセスに役立ちます。抗生物質ペニシリンは 100 年足らずのうちに効能が解明され、その間も多くの命を救ってきました。ヴェルヌの記した宇宙や海底の旅も、100 年経たないうちに現実のものとなりました。先ほど、自分が生きている間に侵襲型のデバイスを脳内に埋めることができる、という私の考えをお話しましたが、その先の世代がその発見を成し遂げるかもしれない──そう考えると、とても期待がふくらみます。
―― 次世代といえば、先生のお子さまが先月、1 歳のお誕生日を迎えられたそうですね。
紺野 はい。とても可愛く育ってくれています。子どもの成長をみていると、その好奇心に驚かされることも多くありますよ。
―― 今、お子さまの話をして顔をほころばせている先生の優しさの感情などは、AI には最後まで得られないものかもしれないですね。
紺野 確かに、そうかもしれません。（了）
