AIのアルゴリズム・バイアスを糺すのはだれか
情報技術進化の過程で女性たちが示してきたもの

AIをリードするビッグ・テックの不都合なバイアス

ダイバーシティとインクルージョンを謳う現在のテック業界は女性を分け隔てなく扱っているだろうか。残念ながら、そうではないのが実状だ。

Microsoft主任研究員であり、AIの社会的影響を調査するニューヨーク大学内の研究機関AI Now Instituteの共同創設者でもあるケイト・クロフォードは、かねてよりビッグデータのアルゴリズムに潜む偏見や差別を指摘してきた。例としてはGoogle画像検索で“CEO”や“Genius”といった単語で画像検索をすると白人男性の顔ばかりが表示されることや、Google Photoが黒人の顔を「ゴリラ」とタグづけすること、東アジアの人たちの笑顔を「まばたき」と認識することなどが挙げられる。機械学習において特定のサンプルデータ群や推定値との誤差を過少または過大に評価していることが、その原因とされる。これだけでも不愉快だが、こうしたレイベリングが社会の判断――銀行の貸し付けや犯罪リスクなど――に影響をおよぼすと、さらに事態は深刻になる。クロフォードは2021年刊行の『Atlas of AI』（未邦訳）で、AIがバイアスや権力構造、イデオロギーに影響を受ける人為的な構築物であることを強調し、客観的なものとしたり神格化したりする趨勢に警鐘を鳴らしている。

クロフォードとともにAI Now Instituteを創設したメレディス・ウィテカーは、Google社で共同研究を推進するプラットフォームGoogle Open Researchの責任者を務めていたものの、2018年に社内のハラスメントに抗議する世界全社ストライキGoogle Workoutのコアメンバーとなったことから解雇を予告される。2019年7月には、社内に留まる条件としてAI Now Instituteからの離脱を求められる報復を受けたとして同社を退社している。2019年6月にはYoutubeマーケティング担当マネジャーで、ウィテカーとともに同デモのコアメンバーを務めたクレア・ステイプルトンも、降格人事や社内の嫌がらせを理由に退社している。

ティムニット・ゲブルは、2017年スタンフォード大学在学時に共同で「ディープラーニングとグーグルストリートビューを用いて、全米の近隣地域の人口構成を予測する」で、ストリートビューに映る車種画像のデータを分析し、地域の人種構成や政治志向を予測する研究を発表して注目を集めた。同時に、この研究手法が人種差別や誤認逮捕に利用されることへの懸念からAIの倫理的な側面に関心を抱き、同年にMITのジョイ・ブオラムウィニとともに論文「ジェンダー・シェード（Gender Shades）」を発表し、多くの顔認識システムが有色人種の顔を判別できない事実を明らかにした。2018年にGoogle社入社後は、社会善をもたらすAIの開発を目指す倫理チームのリーダーを務めた。2019年には、女性や有色人種にたいするアルゴリズム・バイアスを含んでいるという理由から、他の研究者とともにAmazonが顔認証システムを法機関に販売することの中止を申し入れる書簡にサインをしたことを表明する。翌2020年には、AIをオウムになぞらえた「確率変数のオウムの危険性について：言語モデルは大きくなりすぎる可能性があるのか？」という共著論文を発表する。暴力や偏見を含むテキストをそのまま機械学習させるLLM（Large Language Models：大規模言語モデル）への懸念を表明する趣旨の内容だったが、Google社はその論文から署名を削除するようゲブルに要求し、撤回は了承するものの理由を知りたいとした彼女を、本人の了解なく解雇した。Google社はその経緯を明らかにしていないが、同論文にはLLMで大量の電力を用いることについても述べられており、それが理由だったと指摘する声もある。退社後のゲブルは、2021年末に独立研究機関DAIR（Distributed AI Research Institute：分散型AI研究所）を設立。生成AI以降「GAFAM（Google、Apple、Facebook、Amazon、Microsoft）からGOMA（Google、OpenA、Microsoft、Anthropicの4社）へ」とも称されるビッグ・テックにたいするオルタナティブなAI研究機関となることを目指している。ゲブルとともにGoogle社の倫理的AIチームを率いてきたマーガレット・ミッチェルはゲブル解雇の正当性に疑問を持ち、社内調査を進めていたものの、社内情報にアクセスすることを禁じられたのちに、2021年2月に解雇された。彼女は現在、AIスタートアップ企業Hugging Face社でAI研究と倫理科学のチーフの職に就いている。

2023年にイーロン・マスクがtwitter社を買収したことは記憶に新しいところだが、同社で機械学習の倫理・透明性・説明責任チームを率いてアルゴリズム・バイアスの解消に取り組んでいたラマン・チョードリは、マスクによる買収後に研究チームごと解雇されることとなった。