건강한 대화를 제공하기 위한 노력

지난 3 월, 트위터는 플랫폼 상의 건강한 대화를 유도하기 위한 새로운 접근 방식을 도입했습니다. 우리가 다루고자 했던 중요한 이슈는 흔히 '트롤(Trolls)'이라고 부르는 행동입니다. (한글 주: 인터넷 상 트롤들은 사람들의 관심을 원하며, 관계를 이간질시키고 고통을 주는 데서 희열을 느끼는 괴물을 의미합니다.) 트롤과 비슷한 행동은 때로 재미있고 유쾌할 수 있습니다. 오늘 우리가 얘기하는 것은 트위터의 검색과 대화와 같은 공개된 영역에서 이를 왜곡하고 손상시키는 트롤과 같은 행동입니다. 명백히 트위터 정책을 위반한 계정과 트윗들은 조치가 취해집니다. 어떤 것들은 트위터 정책을 위반하지는 않지만 대화를 왜곡시키는 방식으로 행동합니다. 

전체 계정의 1% 미만이 악성 계정으로 신고됩니다. 이 외 많은 수의 신고는 트위터 정책을 위반하지는 않습니다. 숫자가 크지 않더라도 이러한 계정들은 트위터에 대한 사람들의 경험을 불균형적으로 만들고 부정적인 영향을 줄 수 있습니다. 우리는 이처럼 트위터 정책을 위반하지는 않지만 건강한 대화를 방해하고 부정적 영향을 주는 파괴적인 행동들에 어떻게 사전 대응을 할 수 있을까 고민하고 있습니다. 

새로운 접근 방식

현재 트위터는 정책, 검토 과정(Human review process), 머신 러닝을 통해 대화와 검색 같은 트위터 내 공개 영역에서 트윗을 연결하고 표시하는 방식을 결정하고 있습니다. 이제부터는 여기에 새로운 행동 신호(behavioral signals)를 통합해서 공개된 대화를 왜곡하고 손상시키는 행동에 대해 인지합니다. 새로운 툴을 이용하면 트위터 이용자들이 문제를 신고할 때까지 기다리지 않고 대화의 질과 이용자들의 트위터 경험을 향상시킬 수 있습니다. 

우리는 많은 새로운 신호를 분석하고 있으며, 대부분은 외부에서 볼 수 없습니다. 몇 가지 예를 들면, 계정에서 이메일 주소를 확인하지 않은 경우, 같은 사람이 여러 계정에 동시 가입하는 경우, 팔로우하고 있지 않은 계정을 반복적으로 트윗 하고 언급하는 경우, 혹은 집단 공격으로 보이는 경우입니다. 또한 규정을 위반한 계정과 연결되어 있거나 상호작용하는지 여부 등 계정끼리의 관계도 분석합니다. 

이 신호들은 대화 및 검색과 같은 트위터 내 공공 영역에서 콘텐츠를 구성하고 제시하는 방식에 적용됩니다. 이러한 콘텐츠들은 트위터 규정을 위반하지 않기 때문에 트위터 상에 남게 되며, '댓글 더보기'를 클릭하거나 검색 설정에서 '모두 보기'를 선택하면 볼 수 있습니다. 결과적으로 건강한 대화에 기여하는 사람들이 검색과 대화 영역에서 더 잘 보이게 됩니다. 

결과

트위터는 전세계를 대상으로 한 사전 테스트에서 이미 이 새로운 방식의 긍정적 효과를 확인했습니다. 검색 결과에서의 악용(Abuse) 신고는 4% 하락, 대화에서의 악용 신고는 8%가 감소했습니다.  

트위터의 연구는 끝나지 않았습니다. 이것은 트위터에서의 건강한 대화 증진을 위한 작업 중 한 부분일 뿐입니다. 우리는 계속되는 노력 중에 더 배우고 시행착오도 겪을 것입니다. 우리의 목표는 빨리 배우고 우리의 프로세스와 도구를 더 똑똑하게 만드는 것입니다. 우리가 하는 실수와 앞으로의 진전에 대해 계속 정직하게 공개하겠습니다. 우리는 지금까지의 결과에 고무되지만, 이것은 우리 서비스의 전반적인 상태와 이용자 경험을 개선하기 위한 훨씬 더 긴 여정의 한 걸음임을 알고 있습니다.