画像アルゴリズムの暴走をもう止められない!

みんな大好き、特にコアなネットユーザーが好むTumblrで、今ちょっとした異変が起きています。SNSの宿命とも言える「不適切なコンテンツ」を巡り、その判断がどうにもおかしなことになっているのです。

Tumblrの異変について米Gizmodoに語ったのはSam Cornwallさん。Tumblrを子どものアルバムとして利用しており、ポストされているのは可愛らしく、あどけない彼の子どもたちの画像や動画。しかし、最近になって、Tumblrからの自動送信メールでポストを削除したと知らされたのです。削除理由は「性的に不適切」だから。

どこがどう不適切だと判断したのかわからないポスト削除は、どうやら最近Tumblrで多発しているようです。Twitterでも疑問&抗議する声があがっています。


Tumblr removed a video of mine from nearly two years ago because of sexually explicit content. The video was of my cat begging for attention

— Tassy⚡️ (@universaltassy) September 14, 2016

2年くらい前にTumblrにポストした動画が、性的に不適切だと削除された。猫がかまってほしがってるだけの動画なんだけど


Tumblr marked a video of my dog playing with a tennis ball as sexually explicit, so yeah, tell me again about robots taking your jobs

— AJ (@AJisTweeting) September 14, 2016

Tumblrが、うちの犬がテニスボールで遊んでる動画を性的に不適切だと判断。ロボットが人間の仕事するとこうなのか


apparently a video of marlon brando at the oscars is sexually explicit..... ok tumblr

— emily (@modelkimjongin) September 14, 2016

アカデミー賞のマーロン・ブランドの動画が性的に不適切って…Tumblrどういうこと


謎の性的不適切削除祭の原因は何なのでしょう。自動化プロセスに不具合が起きたのか、それともポストを判断するシステム自体に問題があるのか、今のところ詳細は明らかになっていません。

ちなみに、Tumblrが急激なポスト削除を行なうのは、今回が初めてではありません。過去には、著作権に関する削除祭が起きたことがありました。

前述のCornwallさんは、今回の削除でネット共有というもの自体を考え直すきっかけになったと語っています。そもそもTumblrが性的コンテンツをめぐりこうも過敏になっているのは、一部のユーザーの使い方に問題があるのも事実です。

Tumblrの一部ユーザーはエロコンテンツのポストにより、広告などマネタイズに成功しています。それもこれも運営の監視の甘さが原因で、Tumblr上ではエロコンテンツが見つけやすいのが現状です。今回の性的不適切削除祭は、その監視の甘さを見直すために行なわれたもので、無実の人々のポスト削除はその煽りをうけた形なのでしょう。

画像認識技術が発達してきたと言っても、不適切なポストとその削除は、まだまだSNSに常についてまわる問題です。Cornwallさんの言う通り、確かに、ネットでのシェアを考え直す時なのかもしれません。


Bryan Menegus - Gizmodo US[原文
(そうこ)