AIを動かすアルゴリズムは公平性を担保できているか
バラク・オバマ政権時代の2016年5月、大統領行政府は「ビッグデータ：アルゴリズム・システム、機会、市民権に関する報告書」を公開した。その23ページに、「人々が公平にあつかわれていることをたしかなものとするために、アルゴリズムの監査とビッグデータの外部テストに関する学術研究と産業界の発展を促進する」ことの重要性が指摘されている。
ところが、この報告書から4年が経過しているにもかかわらず、日本ではこの「アルゴリズム監査」の重要性がほとんど知られていない。そこで、ここでは「アルゴリズム監査」について論じることで、日本の言論界に「喝を入れたい」と思う。
Shutterstock.comまず、Harvard Journal of Law & Technology（2017年秋号）に収載されたデヴェン・デサイとジョシュア・クロールの共著論文を紹介したい。比較的よくアルゴリズム監査についてまとまっているからである。
最初に、この論文に基づいて、アルゴリズムについて説明しておこう。「ポーチドエッグ」のレシピに、「小さなボールに卵1個を入れる」としか説明がなくても、これが卵を割って、殻をはずして中身だけをボールに入れることを意味していると、人間にはわかる。もっとも「ポーチする」という英語が卵を割ってゆでるということだと知らなければ、卵のままボールに入れてしまうかもしれないが。
これに対して、コンピューターなどのマシンが働くための手順を示すアルゴリズムは正確で詳細な命令を必要としている。人工知能（AI）を動かすにも、詳細な手順が必要なのだが、そのアルゴリズムは外部からはどのようなものなのか、なかなかわかりにくい。アルゴリズムの透明性や説明責任が不十分のまま放置されてしまうと、アルゴリズムで働くAIが不公正な判断をくだしかねない。とくに、公平性が求められる公共サービス分野にAIを導入する場合には、AIを動かすアルゴリズムが公平性を担保できているかが問題になる。
たとえば、2020年夏、英国では成績評価にアルゴリズムを適用した結果、大学の合否にまで混乱が生じるという大不祥事までおきている（詳しくは、資料1や資料2を参照）。
論座ではこんな記事も人気です。もう読みましたか？
塩原俊彦（しおばら・としひこ） 高知大学准教授
1956年生まれ。一橋大学大学院経済学研究科修士課程修了。学術博士（北海道大学）。元朝日新聞モスクワ特派員。著書に、『ロシアの軍需産業』（岩波書店）、『「軍事大国」ロシアの虚実』（同）、『パイプラインの政治経済学』（法政大学出版局）、『ウクライナ・ゲート』（社会評論社）、『ウクライナ2.0』（同）、『官僚の世界史』（同）、『探求・インターネット社会』（丸善）、『ビジネス・エシックス』（講談社）、『民意と政治の断絶はなぜ起きた』（ポプラ社）、『なぜ官僚は腐敗するのか』（潮出版社）、The Anti-Corruption Polices（Maruzen Planet）など多数。
※プロフィールは原則として、論座に最後に執筆した当時のものです
