イギリスで、Aレベル成績判定結果に抗議している生徒たちの姿（写真：ロイター/アフロ）

昨今、AI(人工知能)の急激な発達が注目されている。まるで人間のように自然な会話ができるサービス「ChatGPT」が話題になったのも記憶に新しい。一方で、こうしたAIやアルゴリズム(問題解決や目標達成のための計算・処理手続き)に意志決定や判断を委ねることへの危惧も広まりつつある。イギリスでは実際に、アルゴリズムに大学入学資格の判定を任せた結果、とてつもない混乱が生じてしまったという「苦い経験」があるのだ。私たちはどのようにAIやアルゴリズムと共存していけばよいのだろうか。統計学者のジョージナ・スタージ氏が上梓した書籍『ヤバい統計』から一部を抜粋して紹介する。 【写真】ジョージナ・スタージ著の『ヤバい統計』は政府統計の世界を知りつくす著者が、多彩な事例を用いながら、その舞台裏を紹介する。

■予測よりも低い成績がつけられた 　アルゴリズムをつくりだすのは、アルゴリズム自体ではなく人間だ。ということは、人間はそのアルゴリズムが行ったことに対する責任がある。 　2020年8月13日、「Aレベル」の結果が発表されると、多くの生徒がひどく落胆した(注:Aレベルとは一般教育修了上級レベルの通称で、高校卒業認定資格および大学入学資格のこと)。約4割の生徒に、予測よりも低い成績がつけられていたのだ。なかには、予測より2段階低い成績だった生徒もいた(Aレベル合格者の結果は6段階で示される)。

　当然ながら、結果が発表される日にはがっかりする人が多少なりともいるが、それでも今回はいつもと様子が違っていた。じつは、2020年のAレベル試験は、英国が新型コロナウイルス感染症パンデミックの最中だったため中止されていた。 　その代わりに、教師は試験監査機関「オフクァル」に対して、生徒の成績予測と、クラスのトップから最下位までの成績順位を提出しなければならなかった。オフクァルは、それらのデータを各学校の過去の実績といったほかの要因と併せて判断するアルゴリズムを利用し、各生徒の成績を算出した。

　だが、成績予測より低い成績をつけられた生徒が10人中4人もいるのは、何だか疑わしかった。 ■どのようなバイアスが働いてしまったのか 　実際の成績が予測を最も下回ったのは、恵まれない境遇の生徒たちだった。また、北イングランドの学校が提出した成績は、ほかの地域に比べて上方への調整がなされなかった。一方、最高成績のグループに占める私立学校の生徒の割合は過去最大となり、公立の総合制中等学校の生徒の倍になった。