Instagramは2018年10月10日(米国時間)、いじめや嫌がらせ行為を防ぐための新機能を導入したことを発表しました。Instagramでは、コミュニティが安心して利用できるプラットフォームであり続けるために様々なツールの導入や機能の改善を行っており、今回のアップデートも継続的な取り組みの一環です。

新機能は以下の2つです:

いじめ行為にあたる写真を検出

Instagram上の投稿の大半はポジティブな内容であるものの、残念ながら時には嫌がらせやいじめを目的に写真がシェアされることもあります。また、いじめ行為にあたる投稿を目にしたり、嫌がらせにあったりしても、自分から報告しない利用者も多くいます。そこでInstagramでは機械学習(マシンラーニング)を活用し、いじめと思われる写真やキャプションを検出する技術を導入しました。検出された投稿はコミュニティオペレーションチームが内容を確認し、コミュニティガイドラインに違反するものは削除の対象になります。この機能は、今後数週間かけて導入される予定です。

いじめコメントをライブ動画でも非表示に

今年5月にInstagramは、いじめコメントを自動的にブロックし、非表示にするフィルターを導入したことを発表しました。この機能はフィード投稿、エクスプローラ(Explore)ページ、プロフィールに適用されていましたが、今後はライブ動画上のいじめコメントもフィルタリングします。この機能はすでに導入済みで、日本語にも対応しています。

今回のアップデートにあたり、Instagram責任者に新しく就任したアダム・モッセーリは次のように述べています。アダムからコミュニティに向けたメッセージの全文は、InstagramのInfo Centerからご覧ください。

「オンライン上のいじめは複雑です。Instagram上のいじめ行為を防ぎ、思いやりの気持ちを広めるためには、やらなければいけないことが多くあると認識しています。新たな責任者として、Instagramを利用者の皆様にとって親切で安全なコミュニティにするための取り組みを続けられることを誇りに思っています」

この発表について詳しくはニュースルームを、Instagramを安全に利用するためのヒントや機能については、保護者のためのInstagramガイド(日本語版)もあわせてご覧ください。