Como o Twitter está combatendo spam e automação mal-intencionada

Todos os dias, as pessoas vêm ao Twitter para ver o que está acontecendo. Uma das partes mais importantes do nosso foco em aprimorar a saúde das conversas na plataforma é garantir que as pessoas tenham acesso a informações confiáveis, relevantes e de qualidade no Twitter. Para podermos seguir rumo a este objetivo, introduzimos novas formas de combater abuso e trolls, novas políticas sobre conduta de ódio e comportamento violento, e estamos trazendo novas tecnologias e pessoas especializadas em lutar contra spam e abuso.

Mas sabemos que ainda há muito trabalho a ser feito. Contas não autênticas, spam e automação mal-intencionada atrapalham a experiência de todos no Twitter, e nunca cessaremos esforços para identificar e prevenir tentativas de manipular conversas em nossa plataforma.

Estamos felizes em compartilhar alguns progressos recentes e novas métricas sobre como lidamos com spam, automação mal-intencionada e tentativas de manipulação.

Novos processos para combater automação mal-intencionada e spam

O Twitter combate o spam e a automação mal-intencionada estrategicamente e em grande escala. Nosso foco está cada vez mais em identificar proativamente contas e comportamentos problemáticos em vez de esperarmos por um relatório. Nos concentramos no desenvolvimento de ferramentas de machine learning que identificam e agem automaticamente em redes de contas que disseminam spam ou automatizadas. Isso nos permite enfrentar tentativas de manipulação de conversas no Twitter em grande escala, sendo elas de diversos idiomas e fusos horários, sem depender de denúncias.

Nossos investimentos nesta área estão tendo um impacto positivo:

• Em maio de 2018, nossos sistemas identificaram e contestaram mais de 9,9 milhões de potenciais contas de spam ou automatizadas por semana. Este volume representa um aumento em relação aos 6,4 milhões de contas em dezembro de 2017 e 3,2 milhões em setembro do ano passado.

• Graças a melhorias na tecnologia e em processos durante o ano passado, atualmente estamos removendo 214% mais contas em função de violação a nossas políticas de spam, considerando uma base de comparação anual.
• Ao mesmo tempo, a média de denúncias de spam recebidas por meio de nosso mecanismo de denúncias continuou a diminuir - de uma média de aproximadamente 25 mil por dia em março para cerca de 17 mil por dia em maio. Como resultado de nossas mudanças recentes, também vimos uma queda de 10% nas denúncias de spam feitas a partir de resultados do campo de busca na plataforma. Essa diminuição nas denúncias recebidas significam que as pessoas estão encontrando menos spam em sua página inicial, na área de busca e em todo o ambiente do Twitter.
• Também estamos trabalhando rapidamente para conter spam e abuso originados por meio das APIs do Twitter. No primeiro trimestre de 2018, suspendemos mais de 142 mil aplicativos que violavam nossas regras - coletivamente responsáveis por mais de 130 milhões de Tweets de baixa qualidade. Mantivemos esse ritmo de ação proativa, removendo uma média de mais de 49 mil aplicativos mal-intencionadas por mês em abril e maio. Estamos usando cada vez mais métodos de detecção automatizada e proativa para encontrar indícios de mau uso de nossa plataforma antes que eles afetem a experiência de alguém. Mais da metade dos aplicativos que suspendemos no primeiro trimestre foi removida dentro de uma semana após seu registro - diversas delas em poucas horas.

Esses números mostram que nossas ferramentas estão funcionando: estamos impedindo ou identificando mais dessas atividades antes mesmo que você as veja no Twitter.

Manipulação da plataforma e spam são desafios que seguimos enfrentando e que continuam a evoluir, e trabalhamos para ser mais transparentes com você sobre nosso trabalho. Hoje, compartilhamos quatro novas iniciativas que estamos adotando para endereçar esses problemas:

1) Redução da visibilidade de perfis suspeitos em métricas de Tweets e contas

Uma forma comum de comportamento automatizado e de spam é seguir as contas de maneira coordenada e em volume. Frequentemente, as contas envolvidas nessas atividades são identificadas por nossas ferramentas de detecção automatizada (e removidas de nossas métricas de usuários ativos) logo após o início do comportamento mencionado. Não fizemos o suficiente no passado para tornar claro o impacto de nossas detecções e ações. É por isso que começamos a atualizar as métricas da conta quase que em tempo real: por exemplo, o número de seguidores que uma conta tem ou o número de curtidas ou Retweets que um Tweet recebe serão atualizados corretamente quando alguma mudança for feita nas contas.

Desta forma, quando colocarmos um perfil em “modo de leitura” (em que não é possível engajar com outras pessoas ou Tweetar) porque nossos sistemas detectaram que ela está agindo de forma suspeita, passaremos a removê-lo dos números de seguidores e de engajamento até que essa conta passe por um teste, como confirmar um número de telefone. Também exibiremos um aviso em perfis em modo de leitura e evitaremos que novas contas passem a segui-los para ajudar a prevenir a exposição inadvertida a conteúdo potencialmente mal-intencionado. Se o perfil passar no teste, será restaurado (embora isso possa levar algumas horas). Estamos trabalhando para tornar essas proteções mais transparentes para qualquer pessoa que possa tentar interagir com um perfil que esteja em modo de leitura.

Como resultado, algumas pessoas podem perceber que as métricas de suas próprias contas estão sendo alteradas com maior frequência. No entanto, acreditamos que essa é uma mudança importante na maneira como exibimos Tweets e informações para garantir que pessoas mal-intencionadas não aumentem artificialmente e de forma permanente a credibilidade de uma conta ao inflar métricas como o número de seguidores.

Fique atento: nas próximas semanas, teremos mais informações para compartilhar sobre novos passos que estamos dando para reduzir o impacto desse tipo de atividade no Twitter.

2) Aprimorando nosso processo de entrada na plataforma

Para dificultar a criação de perfis de spam, também vamos requisitar às novas contas que confirmem seu endereço de e-mail e/ou número de telefone quando se registrarem no Twitter. Esta é uma mudança importante para defender a plataforma de pessoas que tentam tirar vantagem do fato de o Twitter ser aberto. Trabalharemos de forma próxima ao nosso Conselho de Trust & Safety e de outras Organizações Não Governamentais (ONGs) especializadas no assunto para garantir que essa alteração não vai prejudicar qualquer pessoa que esteja em um ambiente de alto risco no qual o anonimato é importante. O novo procedimento deve ser implementado até o fim deste ano.  

3) Auditoria em contas existentes para analisar indícios de automação na criação de novas contas

Também estamos conduzindo uma auditoria para rever vários sistemas que já foram usados para a criação de contas. Nosso objetivo é assegurar que todas as contas criadas no Twitter passem por algumas checagens simples e automáticas desenvolvidas a fim de evitar a criação automatizada de novos perfis. As novas proteções que desenvolvemos em virtude da auditoria já nos ajudaram a evitar a criação de mais de 50 mil novas contas por dia que seriam usadas para disseminação de spam.

Como resultado dessa auditoria, em breve tomaremos medidas para contestar um grande número de contas suspeitas de spam que identificamos como parte de nossa investigação sobre uso inadequado de uma parte antiga do fluxo de login. Essas contas são usadas, principalmente, para inflar números de seguidores e, em muitos casos, parecem ter seguido de forma automatizada ou em massa contas verificadas ou de influenciadores, que são sugeridas a novos usuários no fluxo de criação de novas contas. Como consequência dessa ação, algumas pessoas podem ver seu número de seguidores cair; quando contestamos uma conta, os ‘follows’ originados daquela conta são omitidos até que o usuário responda à contestação. Isso não significa que as contas que perderam seguidores tenham feito algo errado; elas foram alvo de spam que agora estamos limpando. Recentemente temos dado mais passos para limpar as atividades de spam e automatizadas e fechar as brechas que vinham sendo exploradas, e estamos trabalhando para ser mais transparentes em relação a esse tipo de iniciativa.

4) Expansão dos sistemas de detecção de comportamento mal-intencionado

Também passaremos a automatizar alguns processos em que vemos atividades suspeitas de contas, como o volume excepcionalmente alto de Tweets com a mesma hashtag ou a utilização do mesmo @ sem uma resposta da conta mencionada. Esses testes variam em intensidade e, em um nível simples, podem passar pelo processo de reCAPTCHA ou uma solicitação de redefinição de senha. Casos mais complexos são automaticamente enviados para nossa equipe para revisão.

O que você pode fazer

Existem importantes medidas que você pode tomar para proteger sua segurança no Twitter:

• Habilite a verificação em duas etapas. Ao invés de apenas digitar a sua senha para entrar na sua conta, você também pode incluir um código que é enviado para o seu telefone celular. Essa verificação ajuda a garantir que você, e somente você, pode acessar a sua conta.
• Revise regularmente qualquer acesso de aplicativos de terceiros. Você pode revisar e revogar o acesso a aplicativos visitando a aba de apps nas suas configurações no twitter.com
• Não reutilize suas senhas em diferentes plataformas e sites. Tenha uma única senha para cada uma das suas contas.
• Você pode usar uma chave de Segurança U2F para autenticação de dois fatores (U2F) para a verificação de login ao entrar no Twitter.
  

Além disso, se você acredita que pode ter sido incorretamente acionado por um dos nossos sistemas automatizados de detecção de spam, é possível usar nosso processo de recursos para solicitar uma análise do seu caso.

Próximos passos

Seguindo em frente, o Twitter continua a investir na abordagem dessas questões, incluindo machine learning e parcerias com terceiros. Também esperamos ansiosamente anunciar os resultados de nossa Solicitação de Propostas para pesquisa de métricas de saúde na plataforma.

Essas questões são sentidas em todo o mundo, em conversas públicas nos mais variados temas, de eleições a situações de emergência. Como dissemos em comunicados recentes, a saúde da conversa no Twitter é uma métrica importante, a partir da qual vamos mensurar nosso sucesso nessas frentes.