ニュージーランドでの恐ろしいテロ攻撃の後、危害を招いたりヘイト行為を蔓延させる目的でFacebookが利用されないようサービスを制限するために、私達はどのような手段をとることができるのか検討を続けてきました。その結果、Facebookで特定のルールに違反した利用者(危険な組織をよび個人に対するポリシーを含む)に対し5月14日(米国時間)からFacebook Liveの利用を制限することになりました。

こういった脅威に対抗するためには、システムの裏をかこうとする写真や動画などのメディアの改ざんを上回る技術革新が必要になります。例えば、クライストチャーチ銃乱射事件後、一部の人々が摘発を免れるため、取締りの対象となったビデオの内容を編集し、再投稿するという事実が確認されました。これに対抗するには業界や研究団体の本格的な調査が必要です。そのため、私達は3つの大学の研究者と提携し、750万ドルを投じて画像と映像の分析技術を改善する新たな研究をスタートしました。

Facebook Liveの制限事項

大多数の利用者の皆様が、友人に思い出をシェアをしたり、大切な活動を周囲の人々に知らせるなど、Facebook Liveをポジティブな目的で使用していただいています。しかし、一方で悪用される可能性もあり、そうした悪用について制限を設けたいと考えております。

これまで、Facebook Liveに限らずFacebookのコミュニティ規定に違反したコンテンツが投稿された場合は、該当の投稿を削除してきました。規定に違反したコンテンツを投稿し続けた場合は、一定の期間、Facebookの利用を停止し、Facebook Liveを配信できないようにしてきました。さらに、低レベルでも違反行為を繰り返したり、稀な事例ではありますが甚だしい違反行為(例えば、プロフィール写真のテロの宣伝[プロパガンダ]などへの利用、児童のわいせつな画像の共有など)がー度でもあった場合はサービス全体の利用を停止してきました。

今後、私達は特にFacebook Liveに関連する規制を強化します。多様化する違反行為に対処すべく、Facebook Liveでは一度でも違反行為をした利用者を厳しく取り締まります。今後はFacebookの最も重要なポリシーに違反した利用者に対し、最初の違反から一定期間(たとえば30日間)Facebook Liveの利用が制限されます。たとえば、文脈が読み取れず、テログループからの声明文へのリンクを共有した利用者は直ちにFacebook Liveを一定期間利用できなくなります。

私達は今後数週間で他の分野でもこれらの規制を実施する予定で、違反した利用者はFacebookで広告を作成できなくなります。

利用者の皆様が期待するFacebookのサービスへの自由なアクセスと、利用者の皆様の安全を確保するために必要となる制限の両立が難しいことは認識しています。Facebookは、Facebook Liveの悪用リスクを最小限に抑えながら、日々より良い形で利用者の皆様にFacebook Liveが利用されることを目指しています。

メディアの改ざんに対抗する研究への投資

クライストチャーチ銃乱射事件後に浮上した課題の1つは、実際に配信された動画の編集された様々なバージョンが多数出回っていることです。人々は(意図的ではない場合も含めて)編集されたビデオを共有し、私達のシステムが検知するのを困難にしています。

Facebookはこのようなビデオの編集版を見つけるべく、音声と映像のマッチング技術などの様々な技術を駆使してきましたが、この分野にはさらなる研究とそのための投資が必要であることを痛感しました。

そのため、メリーランド大学・コーネル大学・カリフォルニア大学バークリー校と提携し、画像・映像・音声に対する改ざんの検知および映像・写真を意図的に操作したコンテンツとそうではないコンテンツを識別する新たな技術開発に取り組みます。

増加するメディアの改ざんに対処するには、業界や研究団体の本格的な研究と協力が必要です。Facebookにはこの課題に共に取り組む協力者が必要です。今回の提携は学会と同業種の企業が協力するパートナーシップの一例に過ぎません。今後数ヵ月以内には、私達はより多くのパートナーシップを結び、テロの脅威に可能な限り早く対処する技術開発に取り組む意向です。

このパートナーシップはディープフェイク(実際には起きていない事件を起きているかのように見せるため映像を改ざんすること)などの情報操作に立ち向かう、様々な対応策の根幹をなすものです。さらにFacebookはこのパートナーシップを、クライストチャーチ銃乱射事件後に起きた、私達のシステムの検知を逃れようとする悪意のある集団とより効果的に立ち向かうための手段にしたいと願っています。

情報操作は複雑な課題であり、相手は次々に手段を変えて対抗してきます。このため、利用者の皆様の安全を守るには専門家・他社・政府・民間団体との連携が不可欠だと考えており、今後とも引き続き協力を続けてまいります。