マーリンアームズ
はじめに
なぜ私はこの本を書いたのでしょうか。すでにアルゴリズミックバイアス（アルゴリズムに内在する偏りや偏見、先入観）に関しては多くのことが書かれていますし、実世界でもアルゴリズミックバイアスがもたらす弊害が数多く報告されています。しかしアルゴリズミックバイアスの原因を扱った本や記事となるとグッと数が減り、さらにアルゴリズミックバイアスのもたらす問題の解決や予防、抑制の方法となると、これはもうほとんど知られていない模様です。そこで、そうしたことを扱った本を書きたいと考えました。
この本は実用書です。さっそく明日からでもシステムに導入できる解決法を提案しています。対処法の中にはある程度時間を要するものもありますが、これは壮大な理論を打ち出す本ではなく、段階を追った指針やチェックリストを提示しているほか、持論の例証には実世界の事例を多数あげています。ただ、何より重要なのは、この本がさまざまな状況下で投げかけるべき具体的な質問を提示することで批判的思考を促しているところです。
私はモデル（アルゴリズム）の開発やコンサルティングといった日常業務でアルゴリズミックバイアスにまつわる発見を重ねるうちに、「技術的な問題だけじゃ全然ない」との思いを強くしてきました。たしかにアルゴリズミックバイアスの原因やソリューションは部分的には統計学によって説明できますが、アルゴリズミックバイアスの問題は人間の心理に深く根差しているため、人間自身のバイアスについて理解しなければ、また、ユーザー、データサイエンティスト、広く社会一般のバイアスがいかに意思決定の際にバイアスを生み、増大させているかを理解しなければ、対処できないのです。
そこでこの本では最初から技術的な解決法に踏み込むことはせず、まずはアルゴリズミックバイアスを生む要因やメカニズムを説明した上で、それがアルゴリズミックバイアスへの対策でどういった意味をもつのかを解説します。
加えて、企業の幹部や非技術系の公務員といった人々がアルゴリズミックバイアスの対策や予防で発揮し得る力は存外に大きいことから、その文脈で誰もがアルゴリズミックバイアスにより適切に対処し、連携して予防できるよう力添えをしたい、との思いもありました。
対象読者
この本の対象読者は「私たち全員」です。私たちの暮らすこの世界では、誰もがアルゴリズムの影響を受けますし、多くの人はアルゴリズムの影響を受けるAIシステムを使ってもいます（もしかしたらAIが関与していることを知らずに使っているかもしれません）。そんなわけで、この本の対象読者は「私たち全員」なのです。
また、データサイエンティストもこの本の対象読者です。まだまだ人数こそ決して多くはありませんが、AIのアルゴリズムの開発担当者であり、アルゴリズミックバイアスの対策と予防で重要な役割を演じる専門家です。そんなデータサイエンティストの多くが（できれば全員が）この本を読んでくださるとよいなと願っています。この本の最後の、もっとも技術的色合いの濃い第Ⅳ部は、データサイエンティストのために書きました。
とはいえ世界全体に目を向ければほとんどの人がデータサイエンティストではありませんし、「統計学なんて大っ嫌い」という人はそれこそ山ほどいます。そこでこの本はごく一般の人を念頭に置いて書きました。難解な専門用語を極力避け、わかりやすい喩えを使い、ユーモアも盛り込んで、楽しく読んでいただけるよう努めました（もしかすると、読み終わる頃には統計学が好きになっているかもしれません。少なくとも、統計学をこよなく愛する私がこの本で描き出した偏ったイメージは大好きになっているかも）。
ところで、アルゴリズミックバイアスの問題が表面化するにつれて、当然、法令を遵守させる立場の規制当局も実態調査に乗り出し、有害な影響を防ぐ方策を模索し始めました。そのためこの本は、開発者とユーザーだけでなく、また、アルゴリズムをどこでどう使うべきかの意思決定の責任を負う企業幹部や官僚だけでなく、監督・規制当局の担当者も念頭に置いて書きました。
さらに、（詳しくは本文で解説しますが）アルゴリズミックバイアスの多くは実社会に深く根差したバイアスを拡大する「レンズ」の働きをします。そのためアルゴリズミックバイアスが招く問題は実社会のバイアスよりも規模がはるかに大きくなります。その文脈ではこの本を政治家、ジャーナリスト、思想家に照準を定めて書きました。こうした人々にはぜひ押さえておいてほしいのです。「アルゴリズムは、社会的バイアスへの対処法にも、逆にこれを助長する要因にもなり得る」ということを。
最後に（とはいえこれも他に負けず劣らず重要なことですが）、この本の対象読者には火星人と宇宙人グレイも含まれます。その理由は本文を読んでいただけばわかります。
「統計学や法律の教科書」でも「特効薬」でもない
この本は統計学の教科書ではありません。読者のうち、とくにデータサイエンティスト（と、統計学に興味のある一般読者）のためにさまざまな統計的手法を引き合いに出しましたが、その詳細を説明するところまではしていません。データサイエンティストならそうした手法の大半はすでにお馴染みでしょうし、たとえそうでなくても少なくともどんな資料を見ればよいかはわかっているはずです。
また、この本は法律の教科書でもありません。たとえばアルゴリズムに関わる重要な洞察のうち、どれが「EU一般データ保護規則（General Data Protection Regulation）」でどのように対象とされているか（あるいは対象から外れてしまっているか）など、法的、倫理的問題を思想的なレベルで論じることはしていますが、アルゴリズミックバイアス対策に何らかの形で関連する法律を漏れなく列挙するとか、特定の法的要件を満たすコツを指南するといったことは、この本の目指すところではありません。そうしたことは法律家の——理想を言えば、この本を読んだ法律家の——役割です。
最後に、この本は問題解決の特効薬でもありません。バイアスとの闘いはしんどいものです。ある意味、バイアスとは社会の一般的な慣行に従うこと、とも言えます。つまり、上司の言うこと、データが示唆すること、あなた自身の怠惰な心が発する「今までどおりに」という声に従って現状を維持することです。でもこうして自分の従来のやり方を部分的にでも変えられないような人は、この本を読んだところで何の足しにもならないでしょう。
どうぞ、この本を読んで得た洞察のうち、とくにどれが自分にとって重要なのか、この本で学んだことに基づいて自分の流儀をどう変えていけばよいのか、頭を使って考えることをやめないでください。そしてその成果を私にもぜひ教えてください。私のブログhttps://www.linkedin.com/in/tobiasbaer/に投稿していただければ幸いです。また、この本を読み終わって本棚にしまったら、あとはクシャミのもとになるホコリが積もるに任せ、この本で得たヒントやコツもきれいさっぱり忘れて元のやり方に逆戻り、なんてことになりたくなければ、読後すぐにカレンダーアプリを開いて、ヒントやコツを実践する日時を書き込んでください！
本書の構成
本の目次をご覧ください
献辞
この本は、私のパートナーの心を駆動する「愛のアルゴリズム」に捧げます
——そのアルゴリズムのどんなバイアスが彼に私を選ばせたのか、
今もって見当もつきません。でもそれは、
彼がこれまでの人生で犯した中では最高の過ちだったと思うのです