긴급 상황에서의 공개 대화 정책

사람들은 실시간으로 펼쳐지는 뉴스와 사건에 대해 알기 위해 먼저 트위터에 옵니다. 우리는 믿을 만 하고, 인증된 정보를 제공할 수 있도록 최선을 다하고 있습니다. 텍사스의 허리케인 하비에서 살아남은 사람들의 실시간 구조 작업을 중계하거나, 홍수 피해 공동체를 돕는 인도 NGO의 역량 강화, 주요 사건 후에 신뢰받는 의견을 확인하거나, 또는 파리에서의 2015년 11월 테러 공격 이후 프랑스 시민들에게 위기 상황을 알리는 것처럼, 우리의 목표는 위기 상황에 처한 사람들을 지원하고 사람들에게 무엇이 가장 중요한지를 보여주는 것입니다.

지난 몇 달 동안 우리는 툴을 정비하고, 응답 속도를 높였으며, 개선할 수 있는 영역을 확인했습니다. 이번 주 YouTube 본사에서 발생한 끔찍한 공격에 비추어, 트위터가 특히 어렵고 불안정한 도전에 어떻게 대처하고 있는지 더 자세히 공유하고자 합니다. 바로 비극의 즉각적인 여파를 이용해 트위터의 대화를 의도적으로 조작하는 사람들에 대한 우리의 대응입니다. 이 사건이 트위터에 처음 보도된 지 24시간 만에 130만 개 이상의 트윗이 발생했는데, 이는 이 대화가 얼마나 빨리 전개되는지, 그리고 사건에 관련된 정보가 엄청났음을 보여줍니다. 

무슨 일이 일어났는가?

YouTube 본사의 총기 난사 사건에 관한 정보가 트위터에 나오기 시작했을 때, 우리는 개인들과 뉴스 기관들로부터 믿을만하고 적절한 정보를 보았습니다. 우리는 또한 의도적으로 기만적이고 악의적인 정보를 공유하고, 때로는 그렇게 하기 위해 다른 네트워크에서 모의하는 계정들을 보았습니다.

이러한 상황에서 우리가 따르는 다양한 정책이 있지만, 트위터가 콘텐츠의 진위 여부나 정확성을 검증하는 정책은 없습니다. 이전에 공유했던 것처럼, 우리는 트위터가 진실의 결정자가 되어서는 안 된다고 강하게 믿고 있습니다. 그러나, 우리는 샌 브루노에서의 총격으로 인한 즉각적인 여파와 같이, 특정 상황에서는 많은 정보들이 우리의 기존 정책들을 위반하는 방식으로 공유되는 것을 확인했습니다. 이러한 상황에서 콘텐츠를 평가하는 몇 가지 방법은 다음과 같습니다.

• 콘텐츠가 다른 사람을 괴롭히거나 학대하는 목적으로 게시되어 있는가?

• 이것이 우리의 증오 표현 관련 규약 (Hateful conduct policy)에 명시된 것처럼, 보호해야 할 대상에 대해 두려움을 유발하기 위한 것인가?

• 이런 식으로 누군가를 왜곡하면 폭력적인 위협에 대한 우리의 규칙에 명시했듯이 대상이 되는 사람에게 실제 피해를 줄 수 있는가?

• 이 계정이 대화를 조작하거나 방해하고 스팸에 대한 우리의 규약을 위반하려는 것인가?

• 이 계정 소유자가 이전에 일시 중단된 적이 있는지 감지할 수 있는가? 당사의 다양한 제재 옵션에 설명된 바와 같이, Twitter에서 계정이 정지되면 해당 계정 소유자는 새 계정을 만들 수 없습니다.

이러한 정책과 제재 옵션을 YouTube 총기 사건과 관련된 대화를 평가하기 위한 근거로서, 당사는 즉시 계정 소유자들에게 폭력 행위에 대한 우리의 정책을 위반했다는 이유로 트윗(대부분 트윗 게시 후 수 분 이내에)을 삭제하도록 요구했습니다. 우리는 또한 다른 사람들을 괴롭히거나 고의적으로 그 사건에 대한 대화를 조작했다는 이유로 수백 개의 계정을 정지시켰습니다. 위기 직후, 당사는 사전 예방적이고 자동화된 시스템을 신속하게 구현하여 이전에 계정이 정지되었던 사람들이 스팸을 보내거나 다른 사람들을 괴롭히지 못하게 했고, 이 시스템은 잠재적으로 우리 팀이 트윗과 계정을 검토할 수 있도록 도왔습니다.

우리가 규칙을 어긴 트윗과 계정을 제거하는 동안, 우리 팀은 또한 사람들이 믿을 수 있는 적절하고 신뢰할 수 있는 콘텐츠를 확인하고 노출하는데 초점을 맞추었습니다. 신뢰할 수 있는 가장 중요한 정보들은 모멘트로 만들어져 16개국, 5개 언어로 제공되었으며 (대부분의 경우 첫 번째 트윗으로부터 10분 이내) 또한 해당 상황에 대한 주요 트렌드로 나타났습니다. 사건 내내 그리고 그 다음날, 우리는 업데이트가 가능해진 시점에서 최신 정보들을 공개했습니다.

어떻게 나아갈 것인가?

이러한 작업은 계속 진행중입니다. 우리는 미국 뿐만 아니라 우리가 서비스를 제공하는 전 세계를 대상으로 우리의 기술, 제재 옵션, 정책을 통해 우리가 무엇을 더 할 수 있는지 탐구와 투자를 계속하고 있습니다. 그 시작으로 우리 기술을 더 잘 활용해 계정 정지를 피하려 하는 악성 이용자들을 가려내고, 악성 자동 계정을 식별하며, 자동화된 프로세스 내에서도 휴먼 리뷰 만큼의 검토가 가능하도록 보장하는 것이 포함됩니다. 

우리는 트위터를 더 좋게 만들기 위해 계속해서 스스로를 개선하며 책임감을 지니도록 노력하고 있습니다. 앞으로 더 많은 활동 내용을 공유할테니 기대해주세요.