Facebookは6月15日(米国時間)、7つの問題からなる「困難な問題(Hard Questions)」を提起したことを発表しました。

人々の生活の中にインターネットが溶け込み、デジタルテクノロジーが進化するにつれて、私たちは新たな問題に直面します。私たちは日々、こうした問題について 議論を重ねています。

Facebookはこの度、こうした議論を広げたいと考えました。Facebookというプラットフォームの及ぼす影響やインパクトを考慮し、その責任について真摯に受け止めているからです。

私たちの選択は常に正しいわけではありません。時には間違えることもあります。だからこそ、「困難な問題」を提起し、議論を活発化させることで、間違いを見直す機会を作りたいと願っています。

私たちが定める「困難な問題」とは、次の通りです。

  • オンライン上のプラットフォームは、テロリストによるプロパガンダの拡散をどのように防ぐことができるか。
  • オンライン上のアイデンティティは人の死後どうあるべきか。
  • ソーシャルメディアは、論争を引き起こす投稿や画像について、どれだけ積極的に監視及び削除を行うべきか。特に、複数の文化規範が混在するグローバルコミュニティにおいて、誰が複雑なテーマを判断するべきか。
  • 誰がフェイクニュースを定義し、論争を引き起こす政治的発言との境界を判断するか。
  • ソーシャルメディアは民主主義にとって良いものか。
  • 人々の信頼を損なうことなく、どのようにして誰もが利益を享受できるデータを活用することができるか。
  • 若いユーザーに対して、どのように安全な環境下における新しい自己表現の方法を伝えることができるか。

今回はそのうちの1つであるテロ対策について、私たちの考えをお伝えします。

近年発生している数々のテロ事件を受け、テロ防止のためにテクノロジー企業が果たす役割が問われるようになりました。 私たちは、皆様のそうした声にきちんとお応えしたいと考えています。「ソーシャルメディアはテロリストが発言できる場所であってはならない」というご意見に私たちも同意します。この考えを実現するため、Facebookが真剣に取り組んでいることを明確にしておきたいと思います。Facebook上のコミュニティの治安を守ることは、私たちの命題と考えています。

この投稿では、私たちが行っている取り組みをいくつかご紹介します。その一環として今回初めてテロリストによる投稿を削除しFacebookでの発信を防ぐために、人工知能(AI)をどのように活用しているかをご説明します。また、テロ対策を担当しているスタッフについてや社外パートナーとの協力体制についてもご紹介します。

私たちのスタンスは、Facebookにテロリストの居場所はない、というとても単純なものです。テロリストやテロを支援する投稿を発見したら、すぐに削除しています。テロに関連する可能性がある投稿について報告を受けた場合は、その投稿を速やかに確認して精査します。ごく稀に投稿された内容から、近い内に危険が発生する可能性がわかることがありますが、そのような場合には関係当局にすぐに通報します。学術研究では、ISISやアルカイダなどのテロ組織の構成員の過激化が進む場所はインターネットではない、オフラインの現実世界であることが明らかになっていますが、インターネットが彼らの過激化を促す一助になっていることは間違いないでしょう。私たちは、Facebookがどのようなテロ活動にも決して利用されてはならないと考えています。

私たちはこれまで、テロ対策を公表することに慎重な姿勢をとってきました。その理由のひとつは、技術を駆使すれば簡単に解決できるという印象を与えたくなかったからです。毎月20億人近くのユーザーが利用し、世界各地の人々が80以上の言語で投稿・発言しているプラットフォームを安全に利用できる場として維持することは大変な挑戦です。私たちがやるべきことは、まだまだ山積していますが、Facebookの取り組みを紹介して、皆様からフィードバックをもらうことで、より良い対策を講じていきたいと考えています。

人工知能(AI)

Facebookのユーザーがテロリストの投稿を目にしないようにするため、テロリストの投稿は直ちに発見し、削除するようにしています。テロとの関連により削除したアカウントの大部分は、Facebook内で発見されています。しかしテクノロジー、特にAIをもっとうまく活用すれば、Facebook上でテロ関連コンテンツの拡散を防ぐことができると考えています。テロ対策にAIを活用し始めたのは最近のことですが、テロリストのプロパガンダやアカウントを削除する方法にはすでに変化が出てきています。私たちは現在、最先端の技術・技法を駆使して、ISIS、アルカイダ、およびそれらの関連組織に関するコンテンツの排除に努めています。近い将来、その他のテロ組織も削除対象に含める予定です。また、Facebookでは技術面での対策を常にアップデートしています。日々刻々と進化する取り組みの中でも、現時点で最新のものをいくつか紹介します。

  • 画像照合: 誰かがテロリストの写真や動画をアップロードしようとすると、その画像がすでに認識されているテロの写真または動画に合致しているものがないかシステムが識別します。
  • 言語理解:  テロを煽っている可能性のある文章を、AIを使って識別する試みも開始しました。 以前削除した文章を解析することで、テロリストのプロパガンダかもしれないコンテンツを識別する試みを進めています。
  • テロリストグループの一括削除: テロリストを支援していると判断されたページ、グループ、投稿、プロフィールが出てくる度に、特別なアルゴリズムを使って、テロを支援している可能性のあるコンテンツを特定します。
  • 常習犯の特定: 違反行為の常習者が作成する偽アカウントの検出を、これまでよりずっと早く行えるようになりました。こうした検出作業を通じて、テロ関連のアカウントがFacebook上に表示される時間を劇的に短縮することができています。ただし、テロリスト側が企てる手段も日々進化しているため、この作業は決して終わることはありません。Facebookは、テロリストたちが私たちのシステムを出し抜くための新たな手口を識別する努力を続けており、明らかになった手口に対処できるよう、戦略をアップデートしています。
  • プラットフォーム間の連携: Facebookグループのいかなるアプリにもテロリストの居場所を作らないため、私たちはWhatsAppやInstagramを含むすべてのプラットフォームでテロリスト対策が行えるように改良を始めました。中には限られたデータしか収集しないアプリもあるため、Facebookグループ全てのアプリでデータが共有できる体制を整備することは、 プラットフォーム全体の治安を守るために欠かせない取り組みです。

人間の専門知識

AIは、すべてを識別できるわけではありません。テロリズムに関するコンテンツと関連していないコンテンツの判別は容易ではなく、また状況の把握に人間ほど長けていません。例えば、武装した男がISISの旗を振っている写真があるとします。その写真はプロパガンダや勧誘のために使われている可能性がありますが、記事に挿入されたイメージ画像かもしれません。ISISのような残忍な集団を批判している記事などには、その組織が発したプロパガンダを使っている場合があります。微妙な判断が必要なケースには人間の専門知識が必要です。

  • 報告と検査: Facebookのコミュニティ、つまりはFacebookを利用する人々が、私たちのポリシーに違反している可能性のあるアカウントやコンテンツを報告することで、テロ対策を支援してくれています。報告されている事例の中には少数ですが、テロリズムへの関連が疑われるものがあります。世界各地にいる社内の担当者が年中無休体制で数十カ国語に対応しながら、ユーザーから届いた報告を検査し、それぞれの内容を状況に基づいて判断しています。この業務は非常に困難な場合もあるため、現場で相談できるカウンセリングサービスやメンタル強化トレーニングの提供を通じて、こうした検査員をサポートしています。この人員は来年にかけて3000人増員します。
  • テロ・保安を専門とするスペシャリスト: 私たちは昨年、テロ対策を専門とするスペシャリストも大幅に増員しました。Facebookには現在、テロ対策に特化した専任スタッフとテロ阻止を主要業務とするスタッフが150名以上います。この中にはテロ対策を専門とする研究者、元検察官、元警察職員や分析官、エンジニアなどがいます。このスペシャリスト集団の中だけでも、30近くの言語に対応しています。
  • 現実世界の脅威: 私たちは、テロリストによるコンテンツの識別・削除にAIを活用する頻度を増やしています。しかしコンピュータは、警察へ通報すべき脅威を完璧に識別できるわけではありません。このため、Facebookでは、警察から緊急要請があった場合、数分以内に対応できるグローバルチームも整備しています。

 外部パートナーとの協力体制

Facebookからテロリズムを排除する努力をするだけでは十分ではありません。テロリストたちはプラットフォームを乗り換えることができるからです。だからこそ、企業、市民組織、研究者、政府などの外部パートナーと連携することが非常に重要になります。

  • 企業間協力: テロリストがオンラインで発信したコンテンツをより早く発見し、その拡散を妨げるため、私たちは2016年12月にマイクロソフト、Twitter、YouTubeと共同で、テロ組織が作成したビデオやテロ組織を支援するビデオを識別するための「ハッシュ(それぞれの画像やビデオが持つ電子指紋)」のデータベースを共有することを発表しました。この共同プロジェクトはすでに成果を生んでおり、今後はパートナーをさらに増やしたいと考えています。
  • 政府との協力: 各国政府と政府間機関も専門知識を集め、提供する上で重要な役割を果たしています。私たちは様々な国の機関からISISやアルカイダのプロパガンダの仕組みについての説明を受け、多くの知識を得ることができました。また、EUインターネットフォーラム、ISISに対抗する世界有志連合(Global Coalition Against Daesh)、英国内務省などの組織などの取り組みに参加した経験からも、多くを学ぶことができました。
  • 暗号化: テロリストは暗号化したメッセージを使って通信することがあります。暗号化技術は、インターネットバンキングの保護から画像の安全な保存まで、さまざまな合法的用途に活用されています。ジャーナリスト、NGO職員、人権活動家などの人々にとっても暗号化技術は不可欠なものです。エンドツーエンド暗号化の構造上、私たちは個々のメッセージの内容を読むことはできません。しかし捜査当局から正当な要求があった場合は、準拠法とFacebookのポリシーに基づき一部の情報を提供しています。
  • 「カウンタースピーチ」トレーニング: 私たちは過激派が主張する意見にネット上で異議を唱えることも、過激思想が拡大することを防ぐ対応策として重要だと考えています。反論はさまざまな形をとって行われますが、どのような場合も、人々が憎しみに満ちた暴力的な生活を続けることを阻止したい、そのような生活と決別するよう説得したいという願いに基づいています。一方でこのような異議を唱える場合は、信頼できる発言者が行った場合に効果を発揮します。そのためNGOや市民グループと協力し、最も大きな影響力を持つ人々の発言が最大化されるようにしています。
  • パートナープログラム: 私たちは主要な「カウンタースピーチ」のプログラムを支援しています。例えば昨年は、戦略対話研究所(Institute for Strategic Dialogue)と共同で、ヨーロッパ中からヘイトに反対する組織や過激派反対組織100以上の参加を得たプロジェクト、「Online Civil Courage Initiative」を立ち上げました。また、Affinis Labsと共同でマニラ、ダッカ、ジャカルタなどの都市でハッカソンを主催し、地域のリーダーたちがテクノロジー企業の経営者と力を合わせ、オンラインで拡大する過激思想とヘイトに対抗するための画期的な解決策を考案する取り組みも行いました。さらに、P2P経由で実施した学生コンテスト「Facebook Global Digital Challenge」は、私たちが支援する活動の中で世界中から最も多くの参加者を集めるプログラムとなっています。開始から2年以内でP2P経由のネットワークは世界5600万人以上に届きました。これは、世界68か国5500人以上の大学生が構成する500件以上のヘイト・過激思想反対キャンペーンを通して達成されました。

私たちの目標 

私たちはFacebookがテロリストがいる場所でないと信じています。オンラインに存在する各コミュニティがすべきことは、現実のコミュニティがすべきことと同じです。それは、テロが手遅れになる前の芽の段階で発見し、摘み取る能力を高めることです。私たちはFacebookのプラットフォームからいかなるテロ活動も排除することを目標に掲げ、全力で注力していくと共に、今後も進捗があった際には、その内容をお知らせします。