Facebookはわずか3か月で5億8300万件のフェイクアカウントを削除、不適切なコンテンツに対する状況レポートを初公開

By Stock Catalog

SNS分野で大きな話題になっている「フェイクニュース」や「ヘイトスピーチ」などの問題に取り組んでいるFacebookが、同社では初となる取り組みに関するレポート「コミュニティ規定実施レポート」を公表しました。その内容によると、Facebookは2018年1月から3月までの2018年第1四半期で約5億8300万のフェイクアカウントを削除しているとのことです。

Facebook Publishes Enforcement Numbers for the First Time | Facebook Newsroom
https://newsroom.fb.com/news/2018/05/enforcement-numbers/

Facebook shuts down 583 million fake accounts as it reveals it is packed with abusive content | The Independent
https://www.independent.co.uk/life-style/gadgets-and-tech/news/facebook-fake-accounts-removed-deleted-spam-abusive-content-latest-a8353021.html

Facebookをはじめとする多くのSNSには、悪意のあるコンテンツやフェイクニュースを拡散しているという批判が集まっています。Facebookが現地時間の2018年5月15日に公表したレポートでは、異なる文化や目線を持つ世界中の22億人のユーザーが利用しているFacebookにとって、それらのユーザーが安全で、いつでも歓迎されるコミュニティを作ることが目的であり、そのためにFacebookは「コミュニティ規定」を定めてプラットフォーム上で認められることと認められないことを明確にする取り組みを進めていることが記されています。

コミュニティ規定
https://www.facebook.com/communitystandards/

Facebookで利用者が自由にコミュニケーションできる環境を作るために、弊社サービスにおける不正行為や不適切な内容をなくすことに真摯に取り組んでいます。そこでコミュニティ規定を設定し、Facebookで認められることと認められないことについての概要を記しました。この規定は全世界のあらゆるコンテンツに適用されます。この規定では各事項を包括的に取り扱っており、あるコンテンツがヘイトスピーチではないと判断された場合でも、Facebookのいじめのポリシーに違反していれば削除されます。

今回発表されたレポートによると、Facebookは暴力的な画像、ヘイトスピーチ、成人のヌードや性的活動、スパム、テロリストによるプロパガンダ、フェイクアカウントなどのコンテンツに対して取り組みを行っており、3カ月間で約5億8300件のアカウントを削除したとのこと。削除されたアカウントの中には、新規作成されてから数分後に削除措置を受けたものも含まれています。

レポートで明らかにされている数字は以下のようなものとなっています。

・2018年第1四半期で削除されたスパム投稿は8億3700万件で、そのほぼ100％がユーザーからの報告を受ける前にFacebook側が対処したもの。
・スパム対抗策はスパムを拡散するアカウントを削除すること。同四半期で5億8300万のフェイクアカウントを削除した。
・しかし同期間におけるアクティブアカウントのうち3～4％は依然としてフェイクアカウントであると推測される。
・同四半期で削除された成人のヌードおよび性的活動に関するコンテンツは2100万件で、その96％はFacebookがユーザーの報告を待たずに対処したもの。
・暴力的な画像に関しては、削除または警告を行う措置を350万件のコンテンツについて実施。その86％がFacebookのシステムによって検知されたもの。
・ヘイトスピーチに関しては、同四半期で250万件のヘイトスピーチを削除。しかしFacebookのヘイトスピーチ検知技術はまだうまく機能しているとはいえず人間のレビューチームによるチェックを要する段階。削除されたヘイトスピーチのうち38％がシステムによって検知された。

約90日間で5億8300万アカウントが削除されたということは、単純計算で1日あたり約648万アカウントが削除されているという計算になります。また、Facebookの月間アクティブユーザー数「22億」に対する数としても、この「5億8300万アカウント」という規模は実に巨大なものであるかが感じられます。

削除されたアカウント数は2017年第4四半期の約7億アカウントから大きく減少しています。これが、事前の取り組みが功を奏したものなのか、それともシステムが追いついていないのかは不明ですが、2018年第二四半期でどう推移するのかも気になるところです。

システムを活用しつつ並々ならぬ労力が投じられていると考えるにふさわしい取り組み内容ですが、Facebookはまだ取り組みが十分とは考えていない模様。Facebookのプロダクト・マネジメント担当副社長ガイ・ローゼン氏は「暴力を封じるために成すべきことはまだまだたくさんあります。AIが悪意のあるコンテンツに対して十分に機能するまでにはまだ数年がかかります」「たとえば、誰かがヘイトスピーチを行っているのか、それとも何かについて単に論じているのかを判断することについては、AIにはまだ十分な能力はありません」と述べ、今後もさらなる技術開発が不可欠であるとしています。

なお、今回公表されたレポートは「Preliminary Report(予備的レポート)」とされており、今後も内容のブラッシュアップを行いながら公表は継続される模様です。