情報技術進化の過程で女性たちが示してきたもの
─AIのアルゴリズム・バイアスを糺すのはだれか
情報分野における女性の活用が遅れをとっているといわれて久しい。大学の工学部も女子学生を確保しようと躍起になっている。リケジョ育成や女性活躍といったひと昔前のスローガンを繰り返すのはやめて、コンピュータ技術を支えた女性たちの声に耳を傾けてみよう。世界最初のプログラマーは女性たちだったのだ。
目次
パーティに招かれなかった6人の女性たち
1945年、アメリカ各地の新聞にペンシルバニア大学から「数学の学位を持つ女性求む」の求人が掲載された。これに応じて招集されたのは、ジーン・ジェニングス・バーティク、フランシス・エリザベス・ホルバートン、マーリン・ウェスコフ、ルース・リクターマン、フランシス・ブラス、ケイ・マクナルティの異なるバックグラウンドを持つ6名。面接でまず聞かれたのは「電気は怖くない?」という質問だったという。彼女たちが従事したのは、当時ペンタゴンが“Project PX”としてペンシルバニア大学のジョン・モークリーやジョン・エッカートに依頼して秘密裡に開発を進めていた高速計算機ENIAC(Electronic Numerical Integrator And Calculator)のプログラムを行うことだった。世界最初の汎用コンピュータに数えられるENIACは、幅30メートル・奥行き90センチメートル・高さ2.4メートルで総重量は27トンにも達するもので、約18,000個の真空管と、数千から数万のダイオードやリレーが用いられていた。彼女たちに与えられたミッションは、ミサイルの弾道計算の微分方程式を解析して、最適な電子回路となるよう配線することだったが、彼女たちは機密事項だったハードウェアを見ることができず、回線図のみでこのセットアップを行わざるを得なかった。当時エンジニアリングはハードウェア設計のことだと認識されており、ソフトウェアは単純作業だと考えられていたため、彼女たちの処遇は計算士としての扱いだったためである。構造化プログラミングの基礎であるサブルーチン、ネスティングなどは、こうした経緯のもと彼女たちにより開発された。
ENIAC機密扱いが解かれたのは1946年2月15日。その2週間前、バーティクとホルバートンはENIACを統括するハーマン・ゴールドスタインに新たなミッションを与えられる。それはENIAC一般公開のデモンストレーションで披露するミサイル弾道計算をプログラミングするというものだった。人の手では40時間を要する計算を15秒でなしとげるというもので、成功すれば各界の喝采を浴びることは間違いなかったが、失敗すればプロジェクト全体が白眼視されることとなる。さすがにこのときは関係者も差し入れを持って彼女たちの陣中見舞いに訪れたという。お披露目を翌日に控えたバレンタインデーも、彼女たちは夜遅くまで仕事にかかりきりだった。軌道計算は行うものの、着弾点にあたる時点を過ぎてもプログラムが停止しないという不具合に見舞われていたのだ。一旦は帰宅したものの、ホルバートンはあるアイデアが頭に浮かぶとともに飛び起きた――ループの終了条件の桁がずれているのではないか。いつもより早く大学を訪れた彼女をはじめ6人の女性たちはさっそくバーティクとともにプログラムの修正にとりかかり、見事にデモンストレーションに間に合わせる。成功裏に終わり、驚嘆と歓声に満ちたデモンストレーション終了後には、学内で大規模なディナーパーティが開かれたが、科学界の重鎮や軍上層部、マスコミ各社がENIACプロジェクメンバーを称えるなかに、6人の女性たちの姿はなかった。パーティに招待されておらず、軍も彼女たちの名前を公表しなかったためである。
のちにバーティクはジョン・フォン・ノイマンと協力してENIACをプログラム内蔵方式に移行するほか、世界ではじめて磁気テープを用いたBINACの開発に携わるほか、ホルバートンとともに省資源化・高速化をはかるソート・マージ・システムを開発。そのほかにも世界初の商用汎用機UNIVACのCPU開発を主導した。ホルバートンはバーティクとの仕事のほか、COBOLとFORTRANの開発にも携わる。従来は黒かったコンピュータの筐体をグレーベージュにしたり、キーボードの横にテンキーを配置したりしたのも、目に見える彼女の業績である。コンピュータの黎明期を築いた6人の女性たちについて世間が知ることとなったのは、1996年ニューヨーク・タイムス誌のコラムにおいてのことで、1946年のENIAC一般公開からじつに50年を経たのちだった。
「人類の偉大な一歩」を進めたテクノロジー
UNIVACに携わり、世界ではじめてのコンパイラA-0 Systemを開発、同じく世界初の高級言語FLOW-MATICを発表したのちに、先述のホルバートンともにCOBOLを開発したグレース・ホッパーは、女性はプログラミングに向いているのだと発言している。すべての手順を考えて必要なものを揃えていくといった忍耐力や細かなことに対処できる能力は、夕食の献立を考えるのと同じく、女性に向いているのだという。
アポロ計画においても女性プログラマが顕著な活躍をみせた。数学の学士を取得後MITでプログラマーとして勤務していたマーガレット・ハミルトンはすでに結婚していたが、夫がハーバードのロースクールにいる3年間は彼をサポートし、その後自分の修士号取得を目指すつもりだった。しかし1961年にジョン・F・ケネディがアポロ計画を打ち出し、彼女の所属するラボが参画することになったことで、彼女はラボに残ることになる。当初は技術要件のどこにも「ソフトウェア」の文字が書かれておらず、ソフトウェア開発の予定も予算も組み込まれていなかった。しかし計画が進行していくなかでソフトウェアの重要性が認識され、1968年には400人以上がソフトウェア開発に携わるようになる。アポロ宇宙船の軌道計算は、コードをパンチカードに穴をあけてバッチ処理してメインフレームに処理させることで行われた。コードが定まると、熟練の女性たちがそれにしたがって銅線をリング型の磁石に巻き付けていった。
ハミルトンは週末や夜に、当時4歳の娘ローレンを連れてラボに行き、オフィスに寝かしつけたあとでプログラムを書いた。ワーキング・マザーだった彼女は「娘を放置する変わり者」といわれていたが、ラボのメンバーとの友情は彼女をそんな陰口から救ってくれたという。ラボ内のキーボードをおもちゃにしていたローレンはある日、意図せず「P01」というプログラムを起動し、システムをクラッシュさせてしまう。ラボ内のことなので事なきを得たが、このエピソードから、ハミルトンは万が一宇宙飛行士が飛行中に「P01」を起動させてしまったときにそのコマンドを無効にするプログラムを書いた。しかしこれはNASAに却下されることとなる。「完璧に訓練された宇宙飛行士が間違えることなど、ありえない」というのがその理由である。ハミルトンの正しさはのちに証明されることとなる。アポロ8号の乗組員が「01」番目の星を入力しようとして、誤って「P01」を起動してしまったのだ。緊急招集されたハミルトンたちは数時間かけて対応策を協議し、ヒューストンから宇宙船へと新しいナビゲーションデータをアップロードし、乗組員は無事に生還することができた。
アポロ11号のフライトに用いられたコンピュータは、ほぼ同型の2台。1台は月着陸船イーグル号に、もう1台は宇宙飛行士を運ぶ司令船に搭載された。現在ジェット機と同様に、シミュレーションに基づいて自動操縦するシステムを持つ最初のコンピュータであるとともに、重さ30kgといえど初のポータブル・コンピュータだった。
1969年7月20日、月面に向け降下していたアポロ11号はシステムが緊急事態を告げるアラートコード「1202」を発した。データのオーバーフローにより、コンピュータが過重な計算タスクを課されていたのだ。これを放置すると緊急待避プログラムが作動し、宇宙船は月軌道に戻る。月面着陸の失敗を意味する事態に動揺する宇宙飛行士に対し、ハミルトンたちは冷静だった。搭載されているコンピュータは、メモリオーバーの場合には非同期処理システムにより最も優先度の高いタスクに集中するようプログラムされていたからだ。これはアポロ11号の――そして娘ローレンの――「P01」への対応からの教訓から、万が一のバグが発生した場合に備えてハミルトンが組み込んでいたものだ。かくしてアームストロング船長は“静かの海”に降り立ち「人類の偉大な一歩」を踏み出した――ハミルトンたちのシミュレーションに先導されて。
これを機に「ソフトウェア工学」という言葉が一般化し、ハミルトンは自身の会社を興す。2016年にはオバマ大統領より大統領自由勲章を受勲、2019年にはワシントン賞を受賞するほか、2018年にカタルーニャ工科大学から名誉博士号、2019年にバード大学より名誉博士号を得ている。ハミルトンはアポロ計画のころを述懐して言う。「あのころ人々がソフトウェアの重要性に気づいていたら、女性である私がその任務に就くことはなかったでしょう」と。
AIをリードするビッグ・テックの不都合なバイアス
ダイバーシティとインクルージョンを謳う現在のテック業界は女性を分け隔てなく扱っているだろうか。残念ながら、そうではないのが実状だ。
Microsoft主任研究員であり、AIの社会的影響を調査するニューヨーク大学内の研究機関AI Now Instituteの共同創設者でもあるケイト・クロフォードは、かねてよりビッグデータのアルゴリズムに潜む偏見や差別を指摘してきた。例としてはGoogle画像検索で“CEO”や“Genius”といった単語で画像検索をすると白人男性の顔ばかりが表示されることや、Google Photoが黒人の顔を「ゴリラ」とタグづけすること、東アジアの人たちの笑顔を「まばたき」と認識することなどが挙げられる。機械学習において特定のサンプルデータ群や推定値との誤差を過少または過大に評価していることが、その原因とされる。これだけでも不愉快だが、こうしたレイベリングが社会の判断――銀行の貸し付けや犯罪リスクなど――に影響をおよぼすと、さらに事態は深刻になる。クロフォードは2021年刊行の『Atlas of AI』(未邦訳)で、AIがバイアスや権力構造、イデオロギーに影響を受ける人為的な構築物であることを強調し、客観的なものとしたり神格化したりする趨勢に警鐘を鳴らしている。
クロフォードとともにAI Now Instituteを創設したメレディス・ウィテカーは、Google社で共同研究を推進するプラットフォームGoogle Open Researchの責任者を務めていたものの、2018年に社内のハラスメントに抗議する世界全社ストライキGoogle Workoutのコアメンバーとなったことから解雇を予告される。2019年7月には、社内に留まる条件としてAI Now Instituteからの離脱を求められる報復を受けたとして同社を退社している。2019年6月にはYoutubeマーケティング担当マネジャーで、ウィテカーとともに同デモのコアメンバーを務めたクレア・ステイプルトンも、降格人事や社内の嫌がらせを理由に退社している。
ティムニット・ゲブルは、2017年スタンフォード大学在学時に共同で「ディープラーニングとグーグルストリートビューを用いて、全米の近隣地域の人口構成を予測する」で、ストリートビューに映る車種画像のデータを分析し、地域の人種構成や政治志向を予測する研究を発表して注目を集めた。同時に、この研究手法が人種差別や誤認逮捕に利用されることへの懸念からAIの倫理的な側面に関心を抱き、同年にMITのジョイ・ブオラムウィニとともに論文「ジェンダー・シェード(Gender Shades)」を発表し、多くの顔認識システムが有色人種の顔を判別できない事実を明らかにした。2018年にGoogle社入社後は、社会善をもたらすAIの開発を目指す倫理チームのリーダーを務めた。2019年には、女性や有色人種にたいするアルゴリズム・バイアスを含んでいるという理由から、他の研究者とともにAmazonが顔認証システムを法機関に販売することの中止を申し入れる書簡にサインをしたことを表明する。翌2020年には、AIをオウムになぞらえた「確率変数のオウムの危険性について:言語モデルは大きくなりすぎる可能性があるのか?」という共著論文を発表する。暴力や偏見を含むテキストをそのまま機械学習させるLLM(Large Language Models:大規模言語モデル)への懸念を表明する趣旨の内容だったが、Google社はその論文から署名を削除するようゲブルに要求し、撤回は了承するものの理由を知りたいとした彼女を、本人の了解なく解雇した。Google社はその経緯を明らかにしていないが、同論文にはLLMで大量の電力を用いることについても述べられており、それが理由だったと指摘する声もある。退社後のゲブルは、2021年末に独立研究機関DAIR(Distributed AI Research Institute:分散型AI研究所)を設立。生成AI以降「GAFAM(Google、Apple、Facebook、Amazon、Microsoft)からGOMA(Google、OpenA、Microsoft、Anthropicの4社)へ」とも称されるビッグ・テックにたいするオルタナティブなAI研究機関となることを目指している。ゲブルとともにGoogle社の倫理的AIチームを率いてきたマーガレット・ミッチェルはゲブル解雇の正当性に疑問を持ち、社内調査を進めていたものの、社内情報にアクセスすることを禁じられたのちに、2021年2月に解雇された。彼女は現在、AIスタートアップ企業Hugging Face社でAI研究と倫理科学のチーフの職に就いている。
2023年にイーロン・マスクがtwitter社を買収したことは記憶に新しいところだが、同社で機械学習の倫理・透明性・説明責任チームを率いてアルゴリズム・バイアスの解消に取り組んでいたラマン・チョードリは、マスクによる買収後に研究チームごと解雇されることとなった。
世界の終わりを嘆くよりも現実の課題に向き合うこと
学習データに起因するAIのバイアスについて、ビッグ・テックに数えられる各社もその対策に乗り出してはいる。しかしAIビジネスが巨大化するのに伴って、追いつかなくなっているのが実状だ。
TIME誌は、ChatGPTが有害なコンテンツを認識するためのデータ処理のために、Open AI社がケニア人労働者を時給2ドル(約260円)未満の低賃金で雇用していることを明らかにした。同誌の取材に応じた現地労働者は、暴力や殺人、強姦などにまつわる大量のテキストを読み分類する作業を「拷問のようだった」と語っている。
The New York TimesはMeta社がFacebook上の投稿を監視するコンテンツ・モデレーターを務める社員の多くが深刻なPTSDや抑うつ症状に苦しんでいることを報じた。同社は現在、裁判所より従業員に補償やメンタルヘルス支援を提供することを命じられている。また同社はコンテンツ・モデレーションの多くをアクセンチュアに外注しているが、ニューヨーク大学法学部教授のポール・バレットは、これを責任の外部帰属化であると指摘している。
前回ここでトランス・ヒューマニストを標榜するテクノ・エリートたちの抱く終末論的な志向について批判的に書いた。“AI界のゴッド・ファーザー”の異名を持ち、ディープ・ニューラル・ネットワークの開発においておそらく最大の貢献を果たしたジェフリー・ヒントンがGoogle社を退社した際に理由として挙げたのもAIによる「人類滅亡の危機」だった。不遇をかこいビッグ・テックを去った女性研究者たちは、一様にAIがコントロール不可能なものではないことを主張している。言い換えれば、現実を超えていきなり世界の終わりを想定するような逃避的な思考に走ったりはしない。当然ながら、中期的には人類は滅びないし、現実を超えた未来も存在しない。ずっとあとの世界を憂慮してみせるよりも、現下の偏見や暴力をなくして、よりよい未来に接続すること――情報技術のもとで女性たちが示してきたものは、見えないふりをしてきた目の前の問題を解決することなのかもしれない。<了>