会員制交流サイト(SNS)や電子商取引(EC)などのITプラットフォーマーに、公共性が求められている。プラットフォームによっては、国家よりも大きな影響力を持つためだ。誹謗(ひぼう)中傷とは何か、悪質な転売とは何か。技術を駆使してITの世界をみることが欠かせない。憲法学や経済学などの人文社会系研究者にとっても、最先端の研究分野になっている。(取材・小寺貴之)

価値観の衝突 ヤフー、投稿確認―難しい判断

「憲法学者がプラットフォームの運営委員に名を連ねる。これは世界的潮流になっている」と、慶応義塾大学の山本龍彦教授は指摘する。憲法学者は国の振る舞いが憲法にのっとっているか研究し提起する、“国家の監視”の役割がある。ITプラットフォームは国家権力ではない。だが、ユーザーの価値観がぶつかり合う。こうした場に法規範に通じた憲法学者が求められている。例えば米フェイスブックは独立機関の監督委員会を設けている。同委員会に憲法学者が加わり、コンテンツの公共性といった難しい判断を担う場面が増えている。

山本教授は、ヤフーが自主ルール策定を目的とした「プラットフォームサービスの運営の在り方検討会」の座長を務める。山本教授は「プラットフォーマーを公的な存在と捉えるべきではない」とするが、時には国家権力者の“口”を封じる力さえ持つ。「事業運営の透明性をチェックする体制が必要」と指摘する。

同検討会では誹謗中傷コメントの対応ついてヤフーに提言し、コメント削除のポリシー改定や運営に反映される。ヤフーが運営するニュース配信サービス「Yahoo!ニュース」には、1日約31万件のコメント投稿がある。このうち、削除件数は同約2万件に上る。ユーザー同士が知識や知恵を教え合うコミュニティーサイト「Yahoo!知恵袋」には同約5万件の投稿があり、そのうち同5000件が削除されている。

この投稿の不適切さを見極める業務は、人工知能(AI)などの先端技術と人海戦術で行われている。24時間365日体制で数百人のスタッフが投稿を確認。チェック機能を増強するためにAIでスクリーニングする。

問題は誹謗中傷をAIで判定してもグレーゾーンが膨大に残る点だ。AIがコメントポリシーにのっとって自動削除するには、人間並みに自然言語を理解できる技術が必要になる。ヤフー技術戦略本部の清水徹氏は「最先端のAIモデル『GPT―3』でもまだ言葉の表層を扱っているだけ」と説明、ポリシーに準拠した判断は「100%人間の仕事」(清水氏)だ。AIはコメントチェックの優先順位付けにとどまる。

ヤフーのコメント投稿アラート(イメージ、同社提供)

例えば「死ね」などの単語を機械的に排除しても隠語が使われる。また、政策企画統括本部の吉田奨政策企画本部長は「『保育園落ちた日本死ね』と題したブログは社会に一石を投じた。単語つぶしをすると、言葉は痛烈でも意義のあるコメントも排除することになる」とチェックの難しさを説明する。

プラットフォーマーも言論統制をしたいわけではない。その上でどこまでを誹謗中傷と判断するのか。その判断の透明性をどう示すのか。人間が判断するため、ガバナンスの構築とその説明が課題となる。

ヤフーはコメント削除のポリシーや事例を報告書として公開していく計画だ。技術的にはスクリーニングをするAIの判定を投稿者に提示し、痛烈なコメントを投稿前に投稿すべきか確かめることは不可能ではない。判定フローの一部を双方向的に提供して投稿者やユーザーに体験してもらう仕組みだ。システムの透明性とともに納得を引き出す仕組みになると期待される。

ただこうしたアプローチに対して山本教授は「ゲーム化してしまうリスクがある」と指摘する。極少数だが熱心に誹謗中傷する投稿者も存在する。双方向の取り組みはそうした投稿者の“抜け穴探し”に使われる可能性がある。

ヤフーではYahoo!ニュースのコメント欄に、不適切である可能性が高いコメントを数日間で複数回投稿しているアカウントに注意メッセージ掲示する取り組みを20年7月に始めた。この結果、4カ月後には注意されるアカウントが取り組み開始直後と比べて13・5%減少した。他にもパトロール業務をユーザー参加型にするアプローチもある。山本教授は「ユーザーを活性化するアプローチは民主的で魅力的に映りがちだ。しっかり効果を測っていく必要がある」と指摘する。

フリマ「マスク問題」 メルカリ、規制も選択肢

コロナ禍ではフリーマーケットアプリケーションでのマスクの高額転売も社会問題になった。メルカリは20年3月、マスクの取引を禁止した。国際大学の山口真一准教授の調査では、メルカリでのマスクの取引量シェアは20年2月に3・8%。取引増加に伴い、小売店などの1次流通で販価が上がる動きは見られなかった。山口准教授は「転売があるから品薄になったとは考えにくい」と指摘する。ただメルカリを使った約4%の人は割高でマスクを買った可能性がある。高額転売が社会問題化した後は「アンチ高額転売」の流れができた。

経済学者からは高額転売の規制は「価格シグナル」をつぶすことになるという反対意見はあった。高額で売れれば、商品の供給量が増えて価格高騰が落ち着く。高くても安くても、値付けを規制すると市場の調整機能を損なうという考えだ。

メルカリは20年7月、フリマアプリ「メルカリ」の運営・管理の基本原則を議論する有識者会議を設立。座長を務めた梅津光弘慶大准教授は「議論をする間にも課題が次から次に出てきた。今後も原則を改定し続けないといけない」という。

メルカリは、需給バランスが著しく崩れ、急激に価格が高騰した生命身体の安全や健康維持に関わる必需品について、1次流通の供給状況を確認して、出品禁止などの規制に乗り出す方針だ。需給バランスの崩れの著しさや高騰加減について閾値は設けなかった。田面木宏尚上級執行役員は「有識者会議では閾値の議論もあったが、設定するのは困難だった」と明かす。都度、人が判断することになる。対策として、一時的な価格の急騰を知らせるアラートを購入者に提示する。今春から夏にかけて実装する計画だ。

高額転売対応とは独立して、メルカリの研究開発部門では研究倫理と運用法の策定が進んでいる。倫理的・法的・社会的課題(ELSI)に対して、それぞれの視点から審査できる人材育成を進める。

例えば法的な規制がなくても社会がノーを突きつける問題は倫理的に判断する。こうした広い視点で判断できる人材を育てる。

同プロジェクトに携わる、大阪大学社会技術共創研究センターの岸本充生センター長・教授は「議論の結論よりもプロセスが重要。プロセスが正しければどんな結論でも受け入れられる」という。

民間のプラットフォームに公共性が求められ、人文社会系研究の新分野になった。変化は激しく、活動を社会に伝える透明性についても新しい形が模索されている。ここで蓄えられた知見や技術がサービスを向上させ、研究自体も進化させるか注目される。

【追記】

コメントパトロールなどの活動の説明は、透明性を高めるだけでなくて、納得を引き出す工夫がいると思います。知らないところで専門家が議論してくれても、ユーザーは腑に落ちないものは受け入れません。代議制や第三者委員会への不信と似ています。意見のあるユーザーは参加させ、ゴールやマイルストーンを共有してプラットフォームをよりよくしていく。その一体感が納得を引き出すように思います。その結果が全体主義の相互監視社会になるのか、自由と多様性を重んじる節度ある言論空間になるのか、非常に難しいところですが。AI技術で世間の価値観の総体のようなものが得られると思います。これも計れるなら、面白い研究材料になるはずです。