ここ数十年の間に、インターネットが良い目的でも悪い目的でも使われるようになったことをうけて、ソーシャルプラットフォームは、犯罪者によりテクノロジーが悪用されるのをできる限り防ぐことに注力してきました。最大の課題の1つとなっているのが、インターネットを使い、プロパガンダや勧誘活動を行うテロ組織にどう対抗するかです。彼らは、特定のソーシャルメディアサービスだけでなく、 様々な方法を使ってメッセージを発信しようとしています。

政府や企業、非営利団体の努力にも関わらず、インターネットを利用したテロリストたちのプロパガンダが、インターネット上で急増しているというこの世界規模の問題に、どう立ち向かっていくかという複雑な課題に私たちは直面しています。

Facebookに対し、膨大なデータベースと最先端の技術があるのに、なぜこのような不正な活動を阻止できないのかという声もあります。しかし、実際には、技術だけで阻止することはできず、人間の力も必要です。そして、テロ関連コンテンツの拡散を効果的に阻止するには、他のステークホルダーとの協力が欠かせません。

2年以上前、私たちが提供するサービスを悪用しようとするテロリストたちにどう対処するか、10社以上のテクノロジー企業と協議し始めました。どの企業も、サイト上の大量にあるコンテンツから、テロに関連したものをどうやって見つけるのか、また、様々な言語で展開される内容をいかに素早く、正確に判断することができるのかという課題を抱えていました。

今年6月にも、 Facebookがこうした課題にどう取り組んでいくのかを紹介した通り、私たちは、テロ関連コンテンツが掲載されないよう尽力しています。掲載された場合は、直ちに検出し削除するよう努めています。テロに関連した可能性のあるコンテンツを精査し削除する作業は、長い間、人間が行ってきました。しかし、6月にお知らせしたように、今は、人工知能(AI)も活用しながら、この作業を続けています。効果的な方法を模索する中で、さまざまな形のテロ関連コンテンツに対し、形態を問わず対応することができる方法を見つけることが課題となっています。例えば、テロに関連している写真を検出するのに効果的な方法が、動画やテキストを検出するのに効果的であるとは限りません。また、テロリストの姿を含む画像を検出する方法で、 その画像がテロリストの勧誘活動用なのか、報道機関の記事の一部として使われているものなのかを判別できるというわけではありません。

今日は、私たちがAIを利用しながら、こうしたテロ関連コンテンツにどう対抗しているかについての、進捗状況についてお伝えします。まだ初期段階ですが、AIは今後、インターネット上およびFacebook上の安全を守る上で、一層重要な役割をはたすことになると期待しています。

同時に、AIだけが解決策ではありません。インターネットでのテロリストたちの活動を一掃するために、他のテクノロジー企業、政府、非営利団体との協力を強化していきます。

AIを使ったテロ関連コンテンツの検出と削除

テロ関連コンテンツの拡散を防ぐため、AIなどの技術を活用することに、期待が寄せられています。

例えば、Facebookが削除しているISISやアルカイダに関連する投稿などの99%を、利用者から報告を受ける前に削除しています。時には投稿として反映される前に発見し、削除することもあります。その際は、画像照合や機械学習などを利用しています。また、一度発見されたテロ関連コンテンツの複製コンテンツは、83%がアップロードされてから1時間以内に削除されています。

テロ対策へのAI活用は、そう簡単にできることではありません。使う技術に応じて、データベースを入念に整え、人間がデータをコード化して機械学習させる必要があります。あるテロ組織からの投稿などを検出するために設計されたシステムを、他のテロ組織へ応用することができないこともあります。なぜならそれぞれのテロ組織が使用している言語やプロパガンダに違いがあるからです。そのため、私たちは最先端の技術を、現実世界とオンライン上で最大の脅威を与えうるテロ組織に対し、優先的に活用するようにしています。ISISやアルカイダがこの優先されるテロ組織に該当するため、この二つとその関連組織に技術を優先して活用しています。将来的には、このような技術の活用を拡大し、他のテロ組織に応用できるようにしたいと考えています。

専門家と協力しテロ関連コンテンツを検出

AIを活用したテロ対策も成果を挙げていますが、最終的には、訓練を受けた専門家が判断を下す作業も必要になります。そのためにFacebookは、テロ対策を行う企業と提携し、社外からの知識も活用しています。

私たちはこの夏、テロ対策グローバル・インターネット・フォーラム(GIFCT)の 設置 を発表しました。このフォーラムは、マイクロソフト、Twitter、YouTubeと共に、プラットフォームを越えて、テロや暴力的な過激主義の拡散を防ぐための長年の連携を正式に組織化したものです。テロリストは多様な方法でオンライン上のユーザーに接触を図るため、世界各地のあらゆる規模なテクノロジー企業とも協力し、 テロリストの動向や効果的な防止策などを共有しています。3回の国際的な会議を経て、既に50社以上のテクノロジー企業がGIFCTに参加しています。

GIFCTでは活動の一環として、2016年12月にEUインターネットフォーラムで発表された 業界共有データベース「ハッシュ」 の開発と拡充を行っています。私たちは、テロリストによるプロパガンダのアップロードを検出するため、「ハッシュ(それぞれの画像やビデオが持つ電子指紋)」を、他社と共有しています。またGIFCTを通じて各国の 政府に働きかけ、政府、テクノロジー企業、市民組織がインターネット上の過激思想とどのように闘うかについて、共同で研究を進める準備をしています。

業界内での連携強化に加えて、研究者、元警察職員や分析官などの、テロ対策の専門家を社内で増やすことも続けています。彼らは、世界各地のテロ組織に関する知識をもち、テロ組織が手法を変えた際の素早い対応をサポートしてくれる社外の専門家との関係強化にも貢献しています。

例えば、Facebookはこの数カ月間で、国際テロやサイバーインテリジェンスに詳しい組織とのパートナーシップを拡充しました。このパートナーには、Flashpoint、中東メディア調査研究所(MEMRI)、SITEインテリジェンスグループ、アラバマ大学バーミンガム校コンピュータ法医学研究所などが含まれます。こうした機関は、テロ組織と関係する可能性があるFacebook上のページ、プロフィール、グループを私たちに知らせてくれます。また、これらの組織は、インターネット上にあるISISやアルカイダに関わる写真や動画も、Facebookに提供してくれます。私たちは、これらの写真や動画と一致するものが、Facebook上にないか、アルゴリズムを使って確認します。もし、一致するものがあれば、削除し、投稿もできないようにします。

現実世界への影響

Facebookは、コミュニティをテロから守るための、警察や治安当局の活動に感謝し、できるかぎり協力できるように努めています。以前お知らせしたように、確かな脅威を発見した場合は必ず関係当局に通報しています。また、警察から緊急要請があった場合、24時間中、すぐに対応できるチームも整備しています。この1年間で、私たちはテロの脅威に対応する世界各地の当局を支援してきました。そうした支援の結果、警察がテロによる被害を未然に防いだケースもあります。

継続的なコミットメント

AIと人間の専門知識の活用や、協力体制の強化を通じて、テロ対策へのコミットメントを進める中で、私たちにできることはもっとあるという思いを強くしています。この世界的な課題に対し、新たな技術を開発し新たなパートナーシップを推進すると共に、今後も進捗があった際にはお知らせします。

「困難な問題」についてもっと読みたい方は、こちら をご覧ください。Facebookが他にどんな問題に対処すべきか、何を改善できるか、皆さまからのご意見をお待ちしています。hardquestions@fb.comまでご連絡ください。