健全な会話のためにできること

Twitter上の公共の場での会話の健全性を高める新たなアプローチを3月に導入しました。私たちが取り組んできた重大な問題のひとつとして「荒らし」という行為があります。今日、問題にしている行為は、「荒らし」の中でも特にTwitter上の公共の会話のマナーレベルをとても低下させ、Twitterを悪意を持って利用する行為です。とりわけ、会話や検索で見かける悪意のある行為が対象となります。これらの悪意のある行為をしているアカウントや悪意のあるツイートはTwitterのポリシーに違反しています。そしてその場合、私たちは当該アカウントやツイートに対して何らかの措置を行います。その他、違反ないものの、健全な会話を損ねるような行為もまだ存在します。

実は、全体の1%未満のアカウントが悪意のある行為のあるアカウントととして報告されたうちの大部分を占めています。しかし報告されたアカウントの多くは、検証の結果、Twitterのポリシーに違反していないケースになります。総数としてはわずかな量ですが、これらのアカウントは利用者の皆さんのTwitter上での充実した時間を明らかに阻害しようとしています。同時に、これは私たちが今まで取り組んできたとても難しい問題です。どうすればこのような、ポリシーに違反しないものの健全な会話の雰囲気を悪くするような「荒らし行為」を積極的に対処できるのでしょうか。

新しいアプローチ

現在、私たちは厳格なポリシーとともに人間による検証、そしてシステムを使い悪意のある行為を防ぐことに取り組んでいます。このようなプロセスを通じて、ツイートが会話や検索といった公共の場で活用されているかを判断しています。今回、私たちは、新しく行動シグナルをツイートのコンテキストに結びつけることによって、公共の場において会話の健全性を阻害し、悪意のある行為を広めようとする行為に対処するようにします。この新しいアプローチにより、利用者が悪意のある行為を報告する前に、会話の健全性と全ての利用者のTwitter上の体験を高めることができるようになると考えています。

私たちが取り組んでいる新たな行動シグナルはたくさんありますが、そのほとんどは外部からは見えません。アカウント登録時に利用するメールアドレスを認証していない場合だったり、同一人物による同時に複数のアカウントをもつ行為、似ているツイートを繰り返し投稿すること、フォローしていないアカウント宛に@ツイートをしたり、攻撃的と受け止められる可能性がある行為などがその一例です。さらに私たちは、Twitterルールに違反するアカウントがどのように関係しているのか、お互いがどのように反応しているのかを検証していきます。

上記に挙げた行動シグナルは、コンテンツがどのように会話や検索といった公共の場で活用されているかを判断します。これらのコンテンツはポリシーに違反しているわけではないので、Twitterはそのコンテンツをそのまま残しておき、「返信をさらに表示」をクリックしたり、検索で結果をすべて見るように設定してある場合に、これらは表示されます。この結果として、健全性の高い会話をしている利用者の方は、会話や検索で多く表示されるようになります。

テストの結果

グローバルで先行して実施したテストでは、すでにこの新しいアプローチがとても良い影響を与えることを確認しました。悪意のある行為の報告が検索結果において4%減少し、会話において8%減少するという結果が出ています。これはTwitter上で過ごす充実した時間を阻害するようなツイートを目にする利用者の方が少なくなっていることを意味しています。

ただ、私たちの取り組みは完璧にはまだほど遠い現状です。今回のアプローチは会話の健全性を高め、利用者のTwitter上の体験をより良いものにするためのひとつに過ぎません。私たちのチームは、テクノロジーを活用し、時間をかけて学び、ときには間違えることもあるかもしれません。目標は、問題についていち早く学び、プロセスとツールを向上することです。そして、自らの過ちと進歩に対して、透明性を持って常に正直であり続けたいと考えています。これまでに得た結果には勇気づけられるものがありますが、とても長い道のりの中のひとつのステップに過ぎないということも承知しています。私たちは今後も、サービス全体の健全性と利用者の体験の向上に努めますので、今後ともどうぞよろしくお願い申し上げます。