트위터가 스팸과 악성 봇에 대응하는 방법

매일 많은 이용자들이 세상에서 무슨 일이 일어나고 있는지 확인하기 위해 트위터를 찾고 있습니다. 트위터는 이용자들이 신뢰할 수 있고 적절한 양질의 정보를 볼 수 있도록 보장하기 위해 트위터에서 오가는 대화의 ‘건강(건전성)’을 개선하기 위한 노력을 기울이고 있습니다. 이를 위해 악성 유저에 대응하기 위한 새로운 대책과 혐오성 행위 및 폭력적 극단주의 콘텐츠에 대한 새로운 정책 수립, 스팸 및 어뷰징 행위에 대응하기 위한 신기술 도입 및 조직 편성 등 다양한 대응책을 도입했습니다.

헤쳐나가야 할 난제가 아직 많다는 점도 잘 알고 있습니다. 가짜 계정이나 스팸, 악성 봇 등이 트위터 이용자 경험을 방해하고 있는 한 트위터 플랫폼에서 오가는 대화를 조작하려는 시도를 식별하고 예방하는 노력이 지속적으로 필요할 것입니다.

이처럼 스팸과 악성 봇, 플랫폼 조작 행위 등에 대응하기 위한 트위터의 최근 진행 사항과 수단을 공유하게 되어 기쁘게 생각합니다.

악성 봇 및 스팸 대응 신규 절차

트위터는 스팸과 악성 봇에 대해 전략적으로, 그리고 그 규모에 맞게 대응하고 있습니다. 트위터는 수동적으로 문제 계정 및 행위에 대한 이용자 신고를 기다리는 것이 아니라 보다 능동적으로 문제를 식별하는 노력을 강화하고 있습니다. 특히 스팸성 네트워크 및 자동 생성 계정을 자동으로 식별하고 필요한 조치를 할 수 있는 머신러닝 툴 개발에 중점을 두고 있습니다. 이를 통해 언어와 지역 상관  없이 대규모로 트위터 대화를 조작하려는 시도를 차단할 수 있으며, 문제가 발생한 이후에야 접수되는 신고에 의지하지 않고 능동적인 대처가 가능합니다.

트위터가 이런 분야에 투자한 노력은 이미 긍정적인 영향을 보이고 있습니다.

• 예를 들어, 2018년 5월 기준으로 매주 990만 건 이상의 잠재 스팸 계정 및 자동 생성 계정을 식별하고 조치할 수 있었습니다. 작년 12월만해도 640만건, 9월에는 320만건에 불과했던 것에 비해 비약적인 성과가 있음을 알 수 있습니다.

• 지난 1년간 진행된 기술 및 절차 개선 덕분에 전년 대비 214% 더 많은 스팸 규정 위반 계정을 제거하고 있습니다.
• 한편 지난 3월 기준 약 25,000 건이었던 일일 신고율이 5월에는 17,000 건으로 떨어지는 등  스팸 신고 내역이 줄어드는 현상을 볼 수 있었습니다. 최근에 도입한 대응책으로 인해 검색 결과에 대한 스팸 신고율도 10% 감소한 것을 확인했습니다. 신고율 감소는 이용자들이 타임라인, 검색 결과, 트위터 전반에 걸쳐 더 적은 스팸에 노출되고 있음을 의미합니다.
• 또한 트위터 API를 통해 발생하는 스팸 및 어뷰징 사례도 줄이기 위해 빠르게 움직이고 있습니다. 2018년 1분기에는 약 1억 3천만 건의 스팸성 트윗을 생성한 규정 위반 어플리케이션 142,000건 이상을 정지시켰습니다. 이와 같이 신속하고 능동적인 대응을 유지해 4월~5월에는 월별 평균 49,000건 이상의 악성 어플리케이션을 제거했습니다. 이처럼 자동화 능동 탐지 수단을 갈수록 많이 활용해 플랫폼 위반 행위가 트위터 이용자 경험에 영향을 미치기 전에 선제적으로 대응하고 있습니다. 1분기에 차단한 어플리케이션 과반수가 등록 후 1주일 이내에 정지되었으며, 이중 상당 수가 수 시간 이내에 정지되었습니다.

이러한 수치를 볼 때 트위터가 도입한 툴이 효과적으로 작동함을 알 수 있습니다. 여러분들이 트위터에서 위반 행위를 보기 전에 더 많은 위반 사례를 미리 예방하고 제거해내고 있습니다.

플랫폼 조작 및 스팸은 앞으로도 트위터가 직면해야 하는 문제이며, 시간이 갈수록 그 수법이 진화하고 있습니다. 우리는 이에 대응하기 위해 취하는 조치의 투명성을 제고하기 위해 노력을 기울이고 있습니다. 오늘은 트위터가 이러한 문제에 대응하기 위해 새롭게 취하고 있는 4가지 방안을 공유드립니다.

1) 수상한 계정의 트윗 및 계정 지표 노출 저하

자주 일어나는 스팸 및 봇 활동의 특징 중 하나는 계정을 조직적이고 대규모로 팔로우하는 것입니다. 이러한 활동을 보이는 계정은 보통 활동 시작 직후 트위터의 자동화 탐지 툴에 잡혀 액티브 유저 지표에서 제외됩니다. 하지만 과거에는 이런 탐지 및 제거 조치의 영향을 충분히 명확하게 보여드리지 못했다고 생각합니다. 따라서 최근에는 계정지표를 실시간에 가깝게 업데이트하기 시작했습니다. 예를 들어 특정 계정의 팔로워 수나 트윗,리트윗, 마음에 들어요 지표 등에 조작 행위가 탐지되어 조치된 경우 그에 맞게 지표를 바로 수정하여 표시하게 됩니다.

이에 따라 의심 계정으로 탐지되어 ‘읽기 전용’(다른 이용자와 교류가 불가하며 트윗을 올리지 못하는 상태)으로 지정된 계정은 전화번호 확인 등 인증 절차를 거치기 전까지는 팔로우 수 및 인게이지먼트 수치에서 제외됩니다. 또한 읽기 전용 계정에는 주의 문구를 띄워 신규 계정이 팔로우하는 것을 방지하여 의도치 않게 잠재적 악성 콘텐츠에 노출되는 것을 예방하고 있습니다. 인증을 통과한 계정은 해당 지표가 복원됩니다. (단, 복원까지 시간이 걸릴 수 있습니다) 앞으로도 이와 같이 읽기 전용 계정과 교류하려는 이용자가 있을 경우 해당 계정이 읽기 전용이란 점과 그 의미를 더욱 투명하게 전달할 수 있도록 보호 조치를 개선하려 노력 중입니다.

이러한 개선 조치가 도입되면서 일부 이용자는 계정 지표가 더 정기적으로 변동되는 것을 볼 수도 있습니다. 하지만 이는 악성 집단이 인위적으로 팔로우 수를 부풀려 계정의 신뢰도가 훼손되는 등의 영구적인 피해를 입히지 않도록 보장하기 위해 정확한 트윗 및 계정 정보를 표시하는데 중요한 변화라고 생각합니다.

앞으로 몇 주 동안 이러한 악성 행위를 근절하기 위해 취하는 추가적인 조치에 대해 공유드릴 예정이니 많은 기대 바랍니다.

2) 가입 절차 개선

스팸 계정 가입이 더욱 어려워지도록 앞으로 트위터에 신규 가입시 이메일 주소나 전화번호를 통한 필수 인증 절차를 도입할 계획입니다. 이는 트위터의 개방성을 악용하려는 일부 인원에 대응하기 위한 중요한 변경 사항입니다. 트위터의 Trust & Safety Council (신뢰 안전 위원회) 및 전문 NGO 등과 긴밀히 협조하여 이러한 인증 절차가 익명성이 중요한 고위험 환경에 있는 이용자에게 피해를 끼치지 않도록 신중히 진행할 예정입니다. 본 인증 절차는 올해 내로 적용될 전망입니다.

3) 기존 계정에 대한 자동 계정 생성 징후 검열

예전 시스템으로 생성된 계정의 진위를 검증하기 위한 검열도 진행 중입니다. 이런 조치의 목적은 트위터에서 생성된 전 계정들 중 자동으로 생성된 계정을 방지하기 위한 간단한 자동 보안 검사를 거치도록 하기 위함입니다. 이렇게 개선된 보호 검사을 통해 이미 일 5만여건의 스팸성 가입을 방지할 수 있었습니다.

본 검열의 일환으로, 기존에 사용했던 가입 절차를 악용한 계정으로 식별된 스팸성 의심 계정에 대해서는 즉각적인 인증 절차를 진행하고 있습니다. 이러한 계정은 주로 팔로우 스팸 계정으로, 가입시 팔로우 추천이 되는 계정이나 유명인 계정 등을 자동으로 혹은 대량으로 팔로우한 계정들입니다. 이를 통해 일부 트위터 이용자는 팔로워 수가 감소하는 현상을 보게 될지도 모릅니다. 인증 요청이 들어간 계정은 인증을 통과할 때까지 팔로우 수에서 숨겨져 제외되기 때문입니다. 분명한 것은 팔로우 수가 줄었다고 해서 해당 이용자가 무언가 잘못했다는 것이 아닙니다. 단지 스팸 행위의 표적이 되었을 뿐이며, 트위터에서 스팸 계정을 제거함에 따라 해당 지표가 줄어드는 것일 뿐입니다. 최근에는 스팸 및 자동화 활동을 청소하기 위한 조치를 더 많이 취하고 있으며, 예전에 악용되었던 약점을 보완하고 있습니다. 또한 이러한 보완 및 개선 조치를 이용자분들과 더욱 투명하게 공유하기 위해 노력하고 있습니다.

4) 악성 활동 탐지 시스템 확장

동일한 해시태그로 대량 트윗이 발생되거나 멘션한 계정에서 답글이 없음에도 불구하고 동일한 계정명을 사용하는 등 수상한 활동을 탐지할 수 있는 절차 일부를 자동화하고 있습니다. 다양한 강도로 해당 시스템을 시험 중이며 가장 단순한 수준으로는 간단한 reCAPTCHA(봇 구별 절차) 혹은 비밀번호 재설정 요청 등이 있습니다. 보다 복잡한 경우는 자동으로 추가 검토 대상으로 분류되고 있습니다.

내 계정 보호하기

여러분이 트위터 계정을 보호하기 위해 취할 수 있는 중요한 조치는 다음과 같습니다.

• 로그인 이중 인증 절차 활성화. 로그인할 때 비밀번호만 입력하는 것이 아니라 휴대폰으로 전송되는 코드도 입력하게 됩니다. 이 인증 절차를 사용하면 사용자 본인만 계정에 접속할 수 있도록 하는 데 도움이 됩니다.
• 정기적으로 타사 어플리케이션을 검토하기 twitter.com에서 계정 설정의 앱 탭으로 이동하면 어플리케이션에 대한 접근 권한을 검토하고 취소할 수 있습니다.
• 다른 플랫폼이나 웹사이트에서 사용하는 비밀번호를 사용하지 마세요. 계정마다 고유의 비밀번호를 사용하세요.
• 또한 FIDO Universal 2nd Factor (U2F) 보안 키를 사용하여 로그인 인증이 가능합니다.

더불어 자동 스팸 차단 시스템이 본인의 계정을 잘못 차단했다고 판단되는 경우 이의 제기 절차를 통해 검토를 신청할 수 있습니다.

향후 방향

앞으로도 트위터는 이러한 사안에 대해 지속적으로 투자할 것이며, 이를 위해 머신 러닝 기술과 대외 협력을 적극 활용할 것입니다. 또한 지난번 공모한 공공 건강지표 연구에 대한 제안서 요청 결과도 곧 공개할 예정이니 많은 기대 바랍니다.

선거, 긴급 재난 사태, 사회적으로 화두가 되는 주요 이슈 등 건강한 SNS 상 대화의 중요성은 전 세계가 공감하고 있습니다. 지난 번에 발표한 바와 같이 트위터의 공공 대화 건강 지표는 이런 분야에서 트위터의 성공 여부를 평가할 수 있는 매우 중요한 지표가 될 것입니다.