フェイスブックは中国に学べるか

フェイスブックのマーク・ザッカーバーグCEOは、中国での解禁を目指して中国指導部への働きかけなどあらゆることを試みているといいます。しかし、フェイスブックに暴力的な動画が投稿されるという難題に直面しており、このままでは「中国でのサイト運営は難しい」と少しは感じ取っているかもしれません。フェイスブックの検閲の問題に迫ってみます。

フェイスブックの動画検閲問題

2017年4月16日に米オハイオ州クリーブランドで殺人行為を撮影した動画がフェイスブックに投稿されてコンテンツ監視を強化するよう促されていましたが、その直後の4月24日にはタイに住む男が生後11カ月の娘を殺害している様子を撮影したライブ動画が24時間フェイスブック上に放置された後に削除されました。

フェイスブックは「これは犯罪行為であり、このような動画をフェイスブックに投稿することを認めていない」と声明文で発表して、さらには「フェイスブックが安全な場であるよう努力しており、身の安全に関わる事態などは警察に通報している」としています。そして、フェイスブックはコンテンツの監視員を3,000人増やして計7,500人にすると発表しました。しかしそれで解決できるのでしょうか、フェイスブックが暴力動画や過激な動画を適切に処理できているのかについて疑問視されています。

フェイスブックの社員によれば、サイトのコンテンツ管理チームは暴力やポルノなどの不快なライブ配信を削除するようトレーニングを受けているといい、今年に入りライブ配信のコンテンツは“少人数の契約社員”が8時間ごとのシフトで24時間体制で監視をしていたとのことですが、ならばなぜ「殺害のライブ動画」が24時間もフェイスブック上に放置されたのでしょう、単純に人数の問題ではなく検閲に対する姿勢に不備はないのでしょうか。

中国の反響とフェイスブックの姿勢

中国のソーシャルメディアでは「フェイスブックが中国の検閲経験から学ぶものは多い」と指摘するコメントが少なくありません、微博(ウェイボー)には「われわれのところに学びに来い」という投稿もあったといいます。中国の厳しい検閲では暴力的な動画の排除や政治的に容認できないものも含め、徹底したフィルタリングをおこなっています。そして民間企業にたいしても自主検閲の義務が課されおり、従わない場合は事業認可を剥奪される可能性もあるのです。

もしも、フェイスブックが中国での解禁を望むなら、真剣に中国の同業他社から助言を受けてみるべきと思われますが、フェイスブックの広報は「中国へのアプローチについては、まだ何の決断も下していない」と口を濁しています。

動画監視だけでも２万人必要

中国在住企業幹部によると、インターネット上の効率的な監視に必要なことは3つあり、それは「多くの人員」「多重の監視」そして「AIの支援」だといいます。フェイスブックが今回発表した7,500人というコンテンツ監視員の人数も、中国政府の基準を満たすには程遠いと指摘しており、中国の動画配信アプリの「映客(Inke)」ではライブ動画の監視だけでもフルタイムの従業員が1,000人でチェックしているといいます。

「映客」の創業者の奉氏は「フェイスブックが中国にあれば、動画の監視員だけで少なくとも２万人は雇う必要があるだろう、また中国のソーシャルメディアのように写真や文章も監視するならその何倍もの人員が必要になる」といい、さらに「中国企業には豊富な経験があるので、フェイスブックは監視チームを中国に置けばわれわれが手助けできるので検討すべきだ」と奉氏は語っています。はたしてザッカーバーグ氏は聞く耳を持っているでしょうか。

中国企業の取り組み姿勢

AIは人間による監視を補完します。「斗魚」の陳氏によると、同社が最初に行うのは画像認識技術でポルノ画像やその他の問題画像を選別しており、疑わしい動画を認識するのに2分以上かかる場合もあるが配信を中止するか否かの判断は全て監視員が下すといいます。また「斗魚」に投資しているソーシャルメディア・ゲーム大手のテンセントは同社傘下のメッセージサービスである「QQ」や「WeChat」に投稿される動画向けに技術を開発しているといいます。

この技術はまだ初期の段階にあり、米カリフォルニア州サンディエゴのKneronと連携して感情や行動を検知できるソフトウエアを開発中だといいます。Kneronの創業者でAI科学者でもある劉氏は、テンセントが設定した課題で難しかったものの一つは、「誰かの抗議を検知するプログラムの精度を95％から98％に上げること」で、それに費やした期間はほぼ2カ月かかったと語っています。AIを活かした検閲の精度向上が期待されます。

検閲の法的手段はあるか

恐ろしい殺人の動画がフェイスブックに掲載されるのを止めるための法的選択肢はあるでしょうか、暴力の可能性があると思われるあらゆる動画の投稿全てを法的に取り締るとすれば、警察による残虐行為や戦争反対運動の画像なども失われる可能性がありますし、車中で黒人男性が警察に銃に撃たれた様子をその恋人がフェイスブックに載せた動画など、目撃者や被害者による動画を刑事罰の対象としてしまうリスクもあるのです。法的手段を適用するには世界中の国が連携する必要があり、個別の国が単独でできることではありません。

また、現状においては米国では「通信品位法230条」で第三者提供情報コンテンツに関するサービスプロバイダの免責を広範囲に認定しており、フェイスブックの事例は「第三者提供情報コンテンツの包括免責」と捉えることも出来そうですがフェイスブックははたしてどう捉えているでしょうか。「免責」の二文字に甘えていてはフェイスブックの未来はありません。

この問題を解決するにはAIの更なる進歩に委ねるしかないのでしょうか。日本は画像認識技術が飛躍的に優れており、AIと画像認識技術を組み合わせたソリューションも展開されています。日本の技術がこの問題の解決に貢献できればよいのですが、いや、すでに研究されているかも知れません。

[newspicks url=”https://newspicks.com/news/2480872″]