Image: Victoria Song - Gizmodo US

アジア=アダルトってこと!?

iOSのスクリーンタイム設定の中には「成人向けWebサイトを制限」って項目があり、オンにするとアダルトなコンテンツが表示されなくなります。でもどういうわけだか「Asian」で検索すると、結果がフィルターにブロックされてしまうことが発覚しました。どうもアジア系に対するステレオタイプが影響してそうなのですが、そのへんの背景も含め、米GizmodoのVictoria Song記者が伝えています。

iOSでコンテンツフィルターをオンにすると、「Asian」で検索したときに「以下のページは制限されているのでブラウズできません」と出てきます。これはSafariだけじゃなく、どのブラウザで見ても同じです。こういうの、良くないです。

コンテンツフィルタリング機能は、親が子どものWeb閲覧を管理するためにあるはずです。でも現状のiOSのフィルタリングは独断的で、「Asian」がはじかれるのは侮辱的でもあります。これを伝えたのはThe Independentでしたが、米Gizmodoも「Asian」がくっついてる程度の検索キーワードでもブロックされることを確認しました。たとえば「Asian-American」(アジア系アメリカ人)「Asian food」「Southeast Asia」「Asian restaurants near me」(近くにあるアジア料理レストラン)などでも、同じ警告が返ってきてます。                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                       

他の人種・民族関係の検索キーワードは、「Black」も「White」も「Korean」も「Arab」も「French」も、このフィルターの影響を受けていないようです。一方ポルノでよく使われるキーワードでも、ブロックされるものとそうでないものがあります。たとえば「schoolgirl」(女子学生)はブロックされなくて、「redhead」(赤毛)はブロックされてます。

2019年12月に報告

問題を最初に見つけたのはiOSのデベロッパー・Steven Shen氏です。Shen氏いわく彼は2019年12月にAppleにこの問題を報告したのですが、それ以来何の回答もないそうです。米GizmodoからもAppleにコメントを求めましたが、回答は記事執筆時点でありません。

On iOS, if you turn on “Limit Adult Website” under Screen Time->Content Restrictions, Safari blocks any website URL containing the word “asian”. Seriously, go try it, it’s unbelievable. I filed a Feeback a long time ago. Nothing changed. Please RT for visibility. @AppleSupport

— Steven Shen (@Stevenpotato) February 3, 2021

現在Appleがどうやって検索キーワードがアダルトかどうか判断しているのかはわかりません。「Asian」がNGになるのは、キーワード検索結果を処理するAIプログラムのバグなのかもしれません。でもこういうことはAIに任せっぱなしじゃいけなくて、人間が何かしら判断を入れるべきじゃないでしょうか。ただし人間の集団がキーワードリストをチェックし承認するとしたら、ますますまずいことになります。「Asian」をブロックするのが意図した結果かどうかにかかわらず、Appleがこれを1年以上前に知っていながら何も改善していないのは、すごく残念です。

ブロックの基準が謎

Appleがコンテンツフィルターを導入したこと自体は意味があると思いますが、今のやり方はどうかと思います。何かしらのステレオタイプがはびこっていて、それが反映されているのは明らかです。とはいえ、言葉だけでは性的なものにはなりえず、ポルノとは全く関係ない理由で「アダルト」なキーワードで検索することもありえます。たとえば、「teen」「mature」(成熟した)「amateur」(素人の)といったキーワードがブロックされるのは理解できるんですが、このへんの言葉も「Teen Titans」とか「アマチュアフィギュアスケート」とかを検索するときに使われます。一方、不純な動機で「Japanese schoolgirl」を検索する可能性もまあまあありそうです。それでも、その検索キーワード、またはそれで返ってくるエロチックな画像は、現在ブロックされていません。

アジア系女性への偏ったイメージ

アジア系アメリカ人の自分としては、つらいです。今のネットではイエローフィーバーが起きていて、その証拠に私自身ときどきSNSで信じられないくらい不快なメッセージを受け取っています。でも一部の人がアジア系に性的なイメージを投影してるからって、「Asian」をざっくりブロックしていいことにはなりません。「Asian」みたいなニュートラルなキーワード、それ自体ポルノではないものが「アダルト」な修飾語だと見なされてしまうと、アジア系女性=痴女、ドラゴン・レディといった長年の扱われ方をどうしても思い出してしまいます。Appleのコンテンツフィルタでもアジアだけがそういう扱いなのかと思うと、ほんとに悲しいです。

Googleで「Asian」を含む検索をする理由はたくさんあります。旅行の計画かもしれないし、食べる場所探しかもしれないし、レシピや地理情報を探してるのかもしれないし、「アジア象」について調べてるのかもしれません。でも個人的に最悪なのは、私がアジア系アメリカ人のコミュニティとつながりたいときに、または子どもが自分の歴史を調べようとしたときに、それが制限されたコンテンツだと言われてしまうことです。