アルゴリズムを批評するために（１）
目次 アルゴリズムを批評するために（１）
アルゴリズムのメタ的な価値をめぐって
本稿の目的は、情報社会におけるアルゴリズム、特にレコメンドなどの情報集約のシステムを「批評」的に取り扱うことの可能性を提示することだ。
アルゴリズムを批評的に取り扱うとはどういうことか。プログラムのバグや、速度の話ではない。本稿で扱うのは、もっとメタ的な価値の選択をめぐる論点である。
たとえば選挙は、そのアルゴリズムのメタ的な価値について論じられてきたものの一つだ。人間は、世界そのものの情報全体をそのまま扱い、認識することはできない。それゆえに、人類はさまざまな方法で情報の圧縮を試みてきた。議会制民主主義における投票は、「民意」の要約を得るための手続きである。
そして、この情報圧縮のアルゴリズムには、多くの場合、議論の対象になる重要な「癖」がある。民主主義のイメージを担う、もっともよく知られた情報集約システムである「多数決」のアルゴリズムが、民意の反映という点において多くの欠点を抱えたものであることは、200年以上前から研究によって知られている。たとえば、最も良いと思う１人の候補者を選ぶだけの多数決方式は、３人の候補者がいるときに決選投票をやった場合と、やらなかった場合で全く逆の結果になってしまうことがある（コンドルセのパラドクス）。投票メカニズムの持つバグは、多くの研究者たちによって論じられ、素朴な多数決よりも相対的に良い方式は数多く提案されてきている。しかし、民意の反映方式として、まったく脆弱性のない投票メカニズムは21世紀の現在において発見されていない。どのような投票方式も、何かしらの脆弱性を抱えていることが知られている。（表１）
出典：坂井豊貴『多数決を疑う』2015,岩波書店
選挙方式をめぐる議論は、純粋に技術的な決定が難しい以上、どのようなアルゴリズムの脆弱性や強みが、我々の社会のあり方にとってより重要なのか。または、許容できないのか、ということをめぐるメタ的な議論を必要とする。
アルゴリズムをめぐる議論は、プログラマーと学者などの専門家だけで、行われればいいわけではない。そのアルゴリズムの受益者となる人間が、どのようなメタ的な価値を重視するかとの対話抜きに決定されることが常態化することは、望ましくない。
アルゴリズムを「批評」的に扱うというのは、そのような議論を開始するための視点について考えることだ。
人間はどう扱う
多元的な情報入力に対して、次元圧縮的な処理をかけることで、情報を要約し、人間にとって容易に扱えるような変換をかける処理は我々の日常である。投票、レコメンドシステム、検索エンジン、深層学習……。これらはいずれも、もともとの入力において存在していたはずの情報を捨て去る処理をすることである。そのとき、どのような情報が捨てられているのかは、年々、通常の人間にとっては、判断の難しいものになってきている。情報を要約する方式が、複雑なメカニズムであればあるほどに、人類の頭脳による直感的な理解から離れた圧縮処理がかけられ、我々は圧縮処理がなされた情報について語るための手がかりをしばしばもっていない。
近年、いわゆる「AI」とされているものの引き起こした問題は、ここ数年でさまざまな報道があった。たとえば、米Amazonが開発したAIを用いた人材採用システムが、既存の社員のデータを学習させた結果、女性が採用されにくいアルゴリズムになっていたこと。顔認識のアルゴリズムにおいてしばしば白人の顔よりも、黒人の顔がきちんと認識されづらいこと。Google 画像検索で、「three white teenagers」と入力すると爽やかな白人の少年少女の写真が上位表示されるのに対して、「three black teenagers」と画像検索すると犯罪被疑者のような黒人の少年少女の写真が上位表示されてしまうこと。検索の利用者の履歴を検索エンジンが読み込んでしまうことで、検索結果の中身が政治的に偏ったものになりがちなこと。……これらのトピックはいずれも、近年の情報社会の負の側面として大きな注目を集めた。
Googleをはじめとする高度な情報変換アルゴリズムが、こうした「偏り」を包摂してしまう可能性は、ある意味で避けがたい。とはいえ、中身のわからないブラックボックスを数多く抱える情報技術をどう扱っていいのか、現代の多くの人々はこの問題に頭を悩ませている。
Googleによるフィルターのかかった検索結果に対して、利用者の検索履歴などを反映させない検索エンジンとして期待を集めた検索エンジン「DuckDuckGo」も出てきた。DuckDuckGoの検索結果は、Googleの検索結果とは確かに異なっている。検索利用者の政治的な立ち位置によって、朝日新聞のサイトと、産経新聞のサイトのどちらかが、表示されやすくなるようには仕込まれていない。DuckDuckGoは、その意味でインターネットのナマの姿に近いように思われる。では、DuckDuckGoは、Google帝国による支配から抜け出した「真実」の空間なのかといえば、現状ではDuckDuckGoを手放しに称賛することは難しい。
DuckDuckGoは2021年4月現在、陰謀論的とされることを論じがちな人々にとってのお気に入りの「真実」の検索エンジンとして評判を集めてしまっている。コロナはただの風邪で、マスクは不要で、米バイデン大統領は許しがたい投票不正によって大統領の地位を得ているに過ぎない…というような類の「真実」は、Googleよりも、DuckDuckGoでこそ上位に表示されるという結果になっている。こういった結果を生み出したメカニズムは、明確にはわからない。おそらくGoogleが行っているようなフェイクニュース対策や、ページの信頼性の格付けのようなことを、良くも悪くもDuckDuckGoは行っていないのだろう。入力情報の重み付けに際して、複雑な操作や不透明な操作をなるべくしないということは、アルゴリズムの挙動に対する信頼性は上げるかもしれない。しかし、アルゴリズムの先に提示された情報それ自体の信頼性を上げるわけではない。不透明な挙動を示す情報圧縮システムを廃棄したとしても、そこに楽園は広がっていなかった、ということだ。
人類は、とっくの昔から情報圧縮のメカニズムを捨て去ることはできない状況になっている。投票や検索が社会にとって不可欠であるのはもちろん、レコメンドシステムも、翻訳エンジンも、顔認識も、徐々に我々の社会にとって不可欠な技術の一部へとなりつつある。
現在のインターネットの数多くの欠点に対してどう対処していくべきなのかを考えたとき、一つには既存の学問の枠組みでなんとかなる、ということはそれなりに言える。
単純化すれば、科学研究の枠組みで研究されているようなトピックを調べたいときには、通常のGoogle検索ではなく、Google Scholar検索を使ってちょっと調べなさいよ、ということだ。ある程度の学術的トレーニングを受けた人間が利用する限りにおいては、信頼性の高い情報にアクセスできる確率はそちらのほうがかなり高い。
また、人文学的な話でいえばAIの倫理枠組みをめぐる議論はホットトピックの一つだし、情報法をめぐる法整備も急速に進展してきた。倫理学、法学、政治学といった分野は情報社会におけるアルゴリズム自体の公平性や公共性の問題を極めて重要な論点とみなしつつある。
アルゴリズムの倫理ではなくアルゴリズムの選択
しかし、情報の妥当性でもなく、情報を要約するアルゴリズムの妥当性や公平性でもなく、人類はそもそもブラックボックスであるものを、ブラックボックスのまま扱う知のモードを有している。もう少し正確に言えば、一定の不透明性を許容しながら、不透明なものを語り、それを受け入れたり、選んだりするための方法である。そのような語りはしばしば「批評」と呼ばれる。
「批評」という言葉には、文脈に応じてさまざまな意味が含まれる。分析的な語りという意味においては、批評は学問的な語りとしばしば区別が難しい。本稿で問題にしたい、批評という行為の学問とは異なる一つの側面として、対峙せざるをえなくなった現実についてどうにか語るという側面がある。その意味で批評行為は、やらざるをえずに行う社会運動や、政治的な選択などとも、接続されている。批評的な語りというのは、その時代、その時代の理解し難い情況に対峙していくための言葉である。それは、科学や学問と言われる語りとは接続しながらも、異なるモードの語りである。
挙動のわからないアルゴリズムと、我々は付き合っていくよりほかない。それは人間の行動の理解しがたさと、ある意味で似ている。ただ、人間のわからなさに対して、人類は長い間つきあってきたのに対して、アルゴリズムのわからなさは、歴史的には、かなりの新参ものである。内部処理の不透明さという意味では、人間の脳内の内部処理のほうが、まだまだよほど複雑である。人間の認知の歪みや、錯覚のメカニズムの複雑さ、個々人の多様性について、21世紀現在になっても、人類はまだわかっていないことがあまりにも多い。コンピュータのアルゴリズムと比べても正確にモニタリングすることすら難しい心身反応は膨大にある。ただ、人間がコンピュータよりもまだブラックボックスでないような気がするのは、ただ単に入出力のさまざまなパターンに慣れて、内部処理がわからずとも、概ねの挙動が類推可能な存在であるということに拠っている。内部処理がブラックボックスであったとしても、つきあっているうちに「ああ、この人はこういう人なんだ」と理解することができるようになれば、なんとなくその人を理解したような気になりうる。長くつきあっていても、何を考えているのかが、なかなか理解しにくい人というのもいるが、理解できないなりに、その人についての観察を深め、その人との付き合い方を考えていく。
以上、ここまで「批評」概念を用いることの意義について述べてきた。「批評」概念には、その歴史、理論史もあり、「批評」概念の含意する論点は細かく言えば、延々と議論ができてしまうことがあるが、本稿において、「批評」概念を用いることの利点として確認しておきたいのは、２点である。
第一に、技術の測定可能な領域を外側にあるメタ的な価値について論じるといこと。第二に、ブラックボックスをブラックボックスのまま受け入れるということである。こういった語りのモードは、技術者のものでも、学者のものでもない。
こうした観点をもとに、本稿の後半では、評点をつけるタイプの一般にレビューといわれるタイプの情報を処理するアルゴリズム（amazonレビューや食べログ）について、「批評」的な観点から論じることができるかどうかを取り扱ってみたい。
我々は近年あふれる「レビュー」や「レコメンド」の仕組みをどのように理解し、議論していくことができるだろうか？
井上明人（Inoue Akito）
ゲーム研究者。現在、立命館大学講師。慶應義塾大学政策・メディア研究科修士課程修了後、国際大学GLOCOM助教、関西大学特任准教授などを経て現職。ゲームという経験が何なのかを論じる『中心をもたない、現象としてのゲームについて』を連載中。また、ゲームのアーカイブやデータベースに関わるプロジェクトに関わっている。単著に『ゲーミフィケーション』(NHK出版,2012)。開発したゲームとしては、震災時にリリースした節電ゲーム『#denkimeter』（CEDEC AWARD ゲームデザイン部門優秀賞受賞）、の他に『ビジュアルノベル版 Wikipedia 地方病（日本住血吸虫症）』など。
自身のサイト「ビデオゲームをめぐる問いと思索」
