それほどの精度ならば、犯人を特定するためにそのアルゴリズムを使ってもかまわないように思える。だが、そこにも問題がある。

5000枚の顔写真は、アルゴリズムをテストするには少なすぎるのだ。犯罪捜査に使うなら、数千ではなく、数百万の顔の中からたったひとつの顔を発見できなければならない。

だが、データ内の顔の数が増えると、誤認の確率も大幅に高くなる。同じアルゴリズムでも、より多くの顔のデータベースで使うと、精度は急激に落ちてしまう。

2015年、ワシントン大学で100万人の顔のデータベースをもとに、世界中の人の顔をアルゴリズムがどのぐらい正しく認識できるかを競う大会が開かれた。

有名人の顔認識ではほぼ完璧だったフェイスネットは、正解率がいきなり75%に落ちた。それ以外のアルゴリズムは10%台と、はっきり言えば惨敗だった。2018年段階のトップは、中国のテンセントのアルゴリズムで、正解率83.29%だった。

つまり、数百万人のデータベースからひとりの犯人の顔写真を見つけだす場合、6回中1回は間違えるわけだ。スティーヴ・タリーのような事件が起きる可能性があるなら、完璧でない科学技術を証拠として使うべきではないかもしれない。

顔認識による犯罪者

しかし、顔認識による犯罪者の確保には大きな利点もある。

2015年、ハンマーを持ってマンハッタンの通りで通行人を次々に襲った男の監視カメラの映像から、顔認識アルゴリズムはその男がデヴィッド・バリルだと特定した。バリルは事件の数カ月前にインスタグラムに血の付いたハンマーの写真を投稿していた。

2017年、ロンドン橋で起きた事件では、ワゴン車で歩行者を轢き、さらにバラ・マーケット付近で無差別殺傷事件を起こした男のひとりヨセフ・ザグバは、イタリアに入国しようとしたときに顔認識アルゴリズムによって身元がばれた。

こうした犯罪者をすばやく見つけるために、どのぐらい濡れ衣を着せられる人がいてもしかたがないとあきらめるのだろうか?

それはある意味で、よりよい社会とはどんなものなのかを考えることだ。犯罪の発生を可能なかぎり抑えるべきなのか? それとも、無実の人が濡れ衣を着せられない社会を目指すのか? 他者のためにどの程度まで個人を犠牲にするのか?

マサチューセッツ工科大学教授のゲイリー・マークスはこう解説した。

「かつてのソビエト連邦では、全体主義の独裁的政府という最悪の状況下で、信じられないほど路上犯罪が少なかった。だが、そのためにどのぐらいの代償を払ったのだろう?」

アルゴリズムの判断を鵜呑みにせずに、真意を精査して、誰が得をするのか明確にし、アルゴリズムのまちがいを正し、現状に甘んじないようにする。これこそが、アルゴリズムが社会のために役立つ未来を作るためのカギになる。そういう未来が作れるかどうかは、人間にかかっているのだ。

(翻訳:森嶋マリ)

著者:ハンナ・フライ