ますます多くのコミュニケーションがデジタル上で行われるようになり、グループ内またはライブ配信で、テキストや動画、さらには絵文字を用いてのあらゆる種類の会話がオンライン上で交わされています。こうした会話は、人間の経験の多様性を映し出しています。啓発的で有益な情報もあれば、ユーモアがあって楽しいものあります。政治的であったり、宗教的であったりもします。しかし、それらは差別的で醜いものにもなり得ます。信頼できるコミュニケーションプラットフォームやシステムの多くでは、このような差別的な内容を減らすことに尽力しています。

Facebookも例外ではありません。私たちはすべての考えにとって開かれたプラットフォームであり、自己表現や繋がり、共有を促す場所でありたいと思っています。同時に、私たちはFacebookを利用する人々が常に歓迎され、安全な場所だと感じて欲しいと思っています。それこそが私たちがいじめや嫌がらせ、脅迫へ対抗するルールを定めている理由です。

しかし、誰かがオンライン上で、特定の名前を挙げずに差別的な考えを発信したらどうなるでしょうか。特定の人種を指して「攻撃的な動物」と呼ぶ、或いは、特定の性的志向の人々を「気持ち悪い」と言い表す投稿は、個人的に捉えられかねず、人によっては危険を感じることすらあります。世界中の多くの国では、このような類の攻撃はヘイトスピーチと言われています。私たちはいかなるヘイトスピーチにも反対し、私たちのプラットフォーム上で発信することを許しません。

ここで、私たちはどのようにヘイトスピーチを定義し、削除していくかをご説明します。また、多数の言語や文化を越えたグローバルな規模で、発言に制限を設けることの複雑さについてもご説明します。私たちの手法は、他のプラットフォームと同様に、それぞれのコミュニティや各分野の専門家から学び、より素早く、より正確に、より適したタイミングで、運用することのできる新しいツールを活用することによって、何度も進化し、変革を続けています。

ヘイトスピーチの定義

ヘイトスピーチを止めるための第一の取り組みは、境界を明確にすることです。

人々は自分たちの経験や意見を共有するためにFacebookを利用しています。また性別や国籍、民族性やその他の個人的な特徴といったトピックは、よく人々の議論に取り上げられています。ある国の外交政策の考え方について人々の意見が異なる場合もあれば、ある宗教の教えについて人々の意見が異なる場合もあります。私たちは、Facebookがこうした議論ができる場所であってほしいと思っています。しかし、こうした議論とヘイトスピーチの境目はどこにあるのでしょうか。

私たちのヘイトスピーチの定義とは、「保護特性」を理由に人々を直接的に攻撃することです。「保護特性」には、人種、民族性、国籍、信仰している宗教、性的志向、性別、性自認、あるいは深刻な障害や病気が挙げられます。

ヘイトスピーチの境目は何か、世界中の誰もが納得できるような答えはありません。いくつかの国はヘイトスピーチを取り締まる法律を持っていますが、その定義は大きく違います。
例えばドイツの法律は憎しみを煽動することを禁止しています。もしオンライン上にこのような投稿を見つけた場合は、警察の強制捜査を受けるかもしれません。一方アメリカでは、とても品のない発言でさえ、合衆国の憲法によって法的に守られています。

同じ国内、或いは隣人であったとしても、「保護特性」に関する発言をどこまで許容できるかには差があります。例えば宗教の指導者についての粗野なユーモアは、信者にとっては神への冒涜かヘイトスピーチだと受け止められることがあります。人によっては性差別的な発言であっても、別の人には笑いを共有する行為であることもあります。ある国の人々についてネガティブな投稿をする場合、投稿者がその国の人であれば問題はないのでしょうか。歌の歌詞から人種差別的な言葉を引用して、ある民族について言及することはどうでしょう。

この領域において、私たちが注目しているとても重要な学問上の取り組みがあります。例えば、ティモシー・ガートン・アッシュが異文化間の諸問題を見るために立ち上げたFree Speech Debateやスーザン・ベネシュが発言と暴力のつながりを調査するために設立したDangerous Speech Projectです。これらのプロジェクトは、オンライン上の発言の境界を定義するためにすべきことはまだ多く残っていると示すもので、私たちがこの取り組みに参加し続ける理由となっています。

エンフォースメント

私たちはヘイトスピーチを見つけ次第に削除するよう全力を尽くします。過去2ヶ月間で、ヘイトスピーチとして報告された投稿を1週間に平均約66,000件削除しました。これは、全世界で月に約288,000件にものぼります。(この数字には、ヘイトスピーチとして報告され別の理由で削除された投稿を含み、別の理由で報告されヘイトスピーチとして削除された投稿は含んでいません)。

しかし、私たちが考えるポリシーを実行したとしても、私たちは完璧とは言えません。判断が難しい場合も多く、その判断を誤ることが多すぎます。

「保護特性」に対する直接的な暴力の煽動や、人々を貶めたり非人間的に扱ったりするような言葉が含まれているものであれば、それは明らかにヘイトスピーチであり、削除するべきです。また「保護特性」にもとづいた脅迫や、誰かに対する切迫した暴力の脅威が明らかであれば、私たちは地域の法執行機関に報告することも検討します。

しかし、明確な共通認識がない場合もあります。言葉自体が曖昧なものであったり、背景にある意図が分からなかったり、文脈の前後関係が明確でなかったりします。言葉は進化し続けていて、昨日までは中傷の言葉ではなかったものが、今日にはそうなっていることもあるのです。

サイトに何を残して何を削除するかについて決断する際には、次に挙げるいくつかのことを考慮しています。

文脈

“burn flags not fags (同性愛者に対する差別的な言い回し=fagではなく、旗=flagを燃やせ)”という文章の意味することは何でしょうか。一見明らかに挑発的なものではありますが、ヘイトスピーチとするべきでしょうか。例えば、それは同性愛者の方々への攻撃なのか、それとも中傷的な意味無く使おうとしているのでしょうか。それとも旗を燃やすことで、政治的な抗議行動を煽動しているのでしょうか。発言者や聞き手がイギリス人であれば、人々の喫煙を止めようとしているのかもしれません。(fagはアメリカ英語の言い回しでは同性愛者を意味しますが、イギリス英語の言い回しではタバコを意味します)。ヘイトスピーチかどうかを見極めるにはもっと多くの文脈が必要です。

最も判断の難しいケースは、強い感情を誘発し、議論が紛糾するような言語を含むものです。このため、公平な目で発言者や聞き手の国などの背景を見ることがとても重要です。地域的で言語学的な背景は非常に重要で、地政学的な出来事を考慮する必要があります。例えばミャンマーでは “kalar”という言葉は平和な歴史的ルーツを持っていて、ビルマ語の至る所で現在でも使われています。しかしある言い回しでは、仏教の国家主義者がイスラム教徒への中傷を煽り立てる表現として使われています。私たちは、言葉がどのように使われ発達してきたかを理解した上で、個人やグループが攻撃された時に、それがヘイトスピーチであり、削除すべきと判断します。しかし、そうでない場合には削除しません。文脈の理解という大きな課題があり、私たちはこのポリシーを正しく施行するのに苦労しましたが、さらなる検証の後、正しい決断を下せていると考えています。しかし、これは長い取り組みになると予想しています。

ロシアとウクライナにおいても同様の問題に直面しています。それはお互いを表すために長く使われていたスラングです。ウクライナ人はロシア人を“moskal”(本来の意味は“Muscovites”又はモスクワの住人)と呼び、ロシア人はウクライナ人を“khokhol”(本来の意味は“topknot”という髪型)と呼びます。2014年に地域紛争が始まった後、人々は相手によって使われたこの言葉について、ヘイトスピーチだと報告し始めました。私たちは内部調査を行い、それぞれの主張は正しいとの結論を出し、どちらの言葉についても削除を始めました。この決断は、厳しい制限として、当初はどちら側からも不評でした。しかし、内戦という背景の中では、とても重要なことだと私たちは考えています。

人々の間で交わされるポリシーについての議論は、多くの場合、ヘイトスピーチの議論に発展します。どちら側も扇動的な言語を使用するからです。これは多くの場合、移民の議論になります。東南アジアのロヒンギャ族、ヨーロッパに流入する難民、アメリカへの移民などについてです。これは珍しいジレンマをもたらします。というのも、国境を越えて誰を受け入れるかという国の決定が関わる重要な政策についての議論は、抑圧したくありませんが、それと同時に、こうした議論はしばしば、人を傷つけ侮辱的なものになることを私たちは知っています。

ここ数年、ドイツに流入する移民が増加するに伴い、Facebook上のいくつかの投稿が、移民や難民を脅迫しているというフィードバックを受けました。私たちはこうした投稿がどのように世界中に現れたのかを調査し、移民に対する暴力的な言葉や、動物や汚物、ゴミになぞらえたりする非人間的な言葉を削除するための新しいガイドラインを作ることを決めました。しかし、移民に対する人々の見解を表現できる場所は残しています。私たちは、まっとうな議論をするための場所をFacebook上に残せるよう全力を尽くします。

意図

Facebook上の投稿は、友人たちとの社会的な関係という大きな文脈の中にあります。ある投稿がヘイトスピーチのポリシーに違反したと報告されたとき、私たちは文脈が分からないため、共有された特定のテキストや画像から判断するしかありません。しかし、文脈がその人の意図を示していれば、ヘイトスピーチであると報告されたときに判断の助けになります。

他の誰かの視点から見るとヘイトスピーチであると考えられるものを、悪意なくシェアしてしまうことはしばしば起こります。それは自虐的なジョークだったり歌詞の引用だったりします。人々はヘイトスピーチについて述べるために、よく皮肉やコメディを使います。

人々は時として、誰かが述べた攻撃的な言葉を繰り返し、それを糾弾することで、憎しみに対抗する声を上げます。私たちはこうした行為を許容しています。たとえそれが不品行であるように見えたとしてもです。これらは我々のコミュニティがヘイトスピーチに対して声を上げるきっかけにもなります。私たちはこうした人々がヘイトスピーチを糾弾する際に、何がヘイトスピーチにあたるかを明確にするため、「コミュニティ基準」を修正しました。しかし、投稿者の意図が明確でないことがあり、ヘイトスピーチに反対する投稿がエラーで消されてしまうことがあります。

人々は自分に向けられた攻撃的な言葉を自分たちで使うことによって、その言葉の中傷的な意味に抗議することがあります。誰かが自分自身に言及した方法で攻撃的な言葉を使う場合と同じ言葉を他人へ攻撃するために使う場合では、まったく違うように感じられます。例えば、“dyke”という言葉は、同性愛者への攻撃を示す場合にはヘイトスピーチだと考えられるでしょう。しかし、誰かが#dykeとつけて自分たちの写真を投稿した場合は問題ありません。別の例は“faggot”という言葉です。この言葉は誰かを指し示している場合にはヘイトスピーチだと考えられますが、イタリアや別の場所では、“frocio” (“faggot”)はLGBTの活動家によって、同性愛嫌悪を糾弾し、その言葉の中傷的な意味を無くすために使われます。これらのケースでは投稿を削除することで、誰かのFacebookでの表現の自由を制限してしまうことになってしまいます。

誤り

あなたがヘイトスピーチだと思って報告した投稿を、もし私たちが削除できなかったとしたら、「コミュニティ基準」において同じ価値観を共有していないと感じるでしょう。もし私たちが、あなたが妥当な政治的見解と信じて投稿したものを削除したときは、あなたは検閲されたと感じるでしょう。私たちはこのような誤りが起きた時に、人々がどのように感じるかを理解しています。そのため、絶えずそのプロセスの向上に努め、十分な説明をするよう努めています。

私たちの数々の判断の誤りは、多くのコミュニティ内で大きな不安を引き起こしてきました。中には私たちの判断が偏見により左右されていると考える人もいます。私たちは偏見が存在するあらゆるところと向き合い、偏見をなくすために取り組んでいくよう努めます。それと同時に、誤りが起こった際にはすぐに修正します。

昨年、有名なアフリカ系アメリカ人の活動家ショーン・キングさんが、キングさん宛に送られた差別的なメールを投稿しました。私たちは間違えて彼の投稿を削除してしまいました。キングさんへの誹謗中傷に対する糾弾のための投稿だと気づくことができなかったのです。間違いを指摘されたとき、私たちは投稿を元に戻して謝罪しました。それでも、こういった間違いは、関わった人々をひどく怒らせ、私たちがFacebookでなし得ようとしていることに反します。

改善し続けること

「人工知能では解決できないか」とよく聞かれることがあります。これからの改善の取り組みの中で、今後もテクノロジーの重要性は高いでしょう。例えば、コメントの中であからさまに中傷的な言葉にフィルターをかける実験を行っており、そうしたコメントは、投稿の中から隠されます。しかし、こうした希望ある進歩に投資し続ける一方で、何がヘイトスピーチかという判断を機械学習や人工知能に頼るには、まだまだ遠い道のりがあります。

私たちがFacebook上のコミュニティに対して、ヘイトスピーチを見分けたり、報告したりすることを頼っているのはそのためです。何十億もの投稿が行われるプラットフォームにおいて、報告された投稿の意図や意味を評価するために文脈が必要な中、それが表現に富んだ意見なのか、或いは受け入れがたいヘイトスピーチなのかという境界を線引きすることができる完璧なツールやシステムは未だありません。私たちのモデルは、プラットフォーム上の全ての人々の目や耳の上で成り立っています。それは、あらゆる潜在的な違反行為に対して、毎週何百万もの報告をしてくれる人たちの事を指します。私達はその報告を受け、幅広い言語の知見を持ち、タイムゾーンを超えた24時間体制のコミュニティオペレーションチームで、ヘイトスピーチのポリシーに当てはまるかどうかを確認していきます。

私達は報告された内容について対応するチームを拡大しているところです。今後1年間で、現在の4,500名のコミュニティオペレーションチームに、世界中から集めた3,000名の新たな仲間を加えます。そこでは、それぞれの地域における文脈や異なる言語についてより深く学んでいきます。そして、判断基準と報告はヘイトスピーチの対応において重要であるため、私たちは意味のあるデータを捉え、共有するためのより良い方法を模索していきます。

このような方法でグローバルコミュニティを運営することはこれまでになかったことであり、私たちはもっとやるべきことがあると感じています。私たちは個人の投稿についてだけではなく、私たちの選択やポリシー全体についてどのように議論を進め、説明をしていくかについても、引き続き改善していくよう努めます。