Instagramは2019年7月9日(米国時間7月8日)、いじめ行為を防ぐ2つの機能を新たに追加することを発表しました。Instagramでは、コミュニティが安心して利用できるプラットフォームであり続けるために様々なツールの導入や機能の改善を継続して行っており、特にいじめ行為の対策においては、業界を牽引する存在になることを目標としています。

今回導入する新機能:

  • 投稿しようとしているコメントが他者を傷つける可能性がある場合、事前に通知して再考を促す機能
  • 特定のアカウントのコメントを非表示にし、ダイレクトメッセージに既読がつかない「制限」機能

 導入に際してInstagram責任者アダム・モッセーリが発表したメッセージと機能に関する詳細は以下の通りです。

###

Instagramのミッションは「大切な人や大好きなものと、あなたを近づける」ことです。そのためには、利用者全員にとってInstagramが安心して利用できるプラットフォームでなければなりません。いじめは多くの人、特に若い人たちが対面している問題です。私たちはオンライン上のいじめ対策で業界をリードする存在になることを目標に様々な取り組みを続けており、その約束を実現するため、Instagramの利用体験を改めて考え直しています。

私たちは、Instagram上のいじめ行為を防ぐためにできることはもっとあるはずだと考えています。被害を受けている人が自分自身で立ち上がれるようサポートするためにできることも、もっとあるでしょう。今回、新しく発表する2つの機能はそれぞれ、加害者、そして被害者になることの防止を目的としており、どのようにして人がお互いを攻撃するのか、いじめに人はどう反応するのかという点に対する深い考察に基づいて開発されました。同時にこれは、安全なプラットフォームを築くための長い道のりにおいては、小さなステップにすぎません。

いじめコメントを防いでポジティブな交流を促す
オンライン上のいじめは複雑な問題です。Instagramではこれまでも、いじめ行為を目的にシェアされたコメント写真や動画、その他の不適切なコンテンツを検出するのに人工知能(AI)を活用してきました。Instagramのコミュニティが拡大するのに伴い、技術への投資も増やしてきました。オンライン上でいじめを経験したことがある人は10代の若者が最も多いにも関わらず、若い世代は被害を報告する可能性が低いため、このような投資は非常に重要な意味を持っています。

Instagramでは、相手を不快にさせる可能性があるコメントをAIで特定し、投稿しようとしている利用者に事前に通知するというテストを数日前に始めました。これによってコメントを再考したり書き直したりするチャンスが与えられ、相手を傷つけるようなコメントの投稿を防ぐことができます。テストはまだ初期段階ですが、このような通知によって一部の利用者は投稿する前に内容を考え直し、コメントを取り消したり、控えめな表現に変えたりすることがあると分かっています。


特定のアカウントを「制限」し、望まないやりとりから自分を守る
Instagram上のいじめ行為を特定し、削除することは重要です。また、そのような行為に立ち向かえるよう、利用者をサポートする必要もあります。若い世代の利用者からヒアリングして分かったのは、状況が悪化するのを恐れて、相手をブロックやフォロー解除、報告するのに消極的だということです。実生活で相手と会ったり話したりしなければならない場合は尚更です。また、そのような行動を取ると、相手がどのような態度をとっているのか把握するのが難しくなることもあります。

そこで私たちは、相手に知られることなく、利用者がInstagramでの体験を管理できる機能を導入しようと考えました。近日中に、望まないやりとりからアカウントを保護するための新しい「制限」機能のテストを開始します。特定のアカウントを「制限」すると、自分の投稿に対してそのアカウントがシェアしたコメントは相手にのみ表示されるようになります。制限したアカウントからのコメントを承認すれば、他の利用者に表示することも選択できます。また、自分がInstagram上でオンラインであることや、ダイレクトメッセージを既読したことも、制限したアカウントには表示されないようになります。

私たちにはInstagram上に安全な環境を作る責任があり、これまでも優先事項として取り組んできました。今後も、いじめ問題に対する理解を深め、対策のために投資を続けていきます。より多くのアップデートを利用者の皆様に共有できるのを楽しみにしています。

Instagram責任者 アダム・モッセーリ