Empresa

Twitter detalha medidas contra uso indevido de robôs e desinformação

Por Twitter Public Policy
Quinta-feira, 28 Setembro 2017

Sabemos que há um grande interesse por mais transparência sobre como o Twitter combate o uso indevido de robôs (bots) e as redes manipuladoras. Por isso, vamos manter as pessoas informadas sobre nossos esforços nesse sentido. O Twitter tem intensificado o trabalho contra as tentativas de manipulação, incluindo spam e contas automatizadas mal-intencionadas, bem como quaisquer atividades que violem nossos Termos de Serviço.

O Twitter respeita profundamente a integridade dos processos eleitorais, que são pilares de todas as democracias. É importante notar que nosso trabalho para lutar contra o mau uso de bots e a desinformação vai além de qualquer eleição, evento ou período específico. Temos trabalhado para identificar e remover contas e aplicativos maliciosos no Twitter. E continuamos a melhorar nossos sistemas internos para detectar e prevenir novas formas de manipulação, além de ampliar esforços para educar o público sobre como identificar um conteúdo de qualidade no Twitter.

Devido à natureza do assunto, nem sempre podemos compartilhar publicamente detalhes do nosso trabalho. E sempre haverá ferramentas ou métodos sobre os quais não podemos falar, pois isso ajudaria os responsáveis por perfis maliciosos a contorná-los. Mas, como sabemos que há um grande apetite por mais transparência sobre como o Twitter combate bots e a desinformação, faremos o nosso melhor para mantê-lo informado sobre as nossas descobertas e, mais amplamente, nossos esforços para lutar contra bots, spam e desinformação no Twitter.

Com centenas de milhões de Tweets publicados globalmente todos os dias, aumentar esses esforços continua a ser um desafio. Continuaremos a analisar estes assuntos de forma contínua, e vamos compartilhar informações à medida do possível. Estamos compartilhando hoje diversas informações que são destinadas a diferentes públicos, como eleitores, jornalistas, desenvolvedores, etc. Aqui estão algumas conclusões iniciais que gostaríamos de compartilhar publicamente nesta fase:

Publicidade política

Observamos os recentes apelos para que exista uma maior divulgação pública em relação às propagandas políticas nas mídias sociais, incluindo o Twitter. O Twitter apóia que a publicidade política seja mais transparente para nossos usuários e para o público. Também temos políticas específicas e mecanismos de revisão para anúncios de campanhas políticas. Lançaremos um Centro de Transparência Publicitária líder no setor que vai dar a todos a visibilidade de quem anuncia no Twitter, os detalhes dos anúncios e ferramentas para compartilhar seus feedbacks conosco.

Tráfego automatizado e spam

Toda a plataforma online tem que lidar com spam. Segundo estimou a Internet Society em outubro de 2015, até 85% de todos os emails enviados globalmente são spam. Obviamente, o email é muito diferente do Tweet, mas é importante entender a escala do universo com que estamos lidando e que este é um problema global para todas as plataformas.

Conteúdos que violam nossas regras relacionadas a contas automatizadas e spam podem ter um efeito altamente negativo na experiência do usuário, e temos realizado ações substanciais para impedir esse fluxo. À medida que os padrões das atividades maliciosas evoluem, estamos nos adaptando para combatê-los. Em média, nossos sistemas automatizados capturam globalmente mais de 3,2 milhões de contas suspeitas por semana -- mais do que o dobro do que era detectado em média nesse mesmo período no ano passado. À medida que a nossa detecção de contas e conteúdos automatizados melhorou, podemos capturar contas mal-intencionadas assim que são abertas no Twitter ou começam a criar spam. Nunca incluímos, e não vamos incluir, contas de spam que identificamos como parte do número de usuários ativos que informamos aos acionistas. Estimamos que contas falsas ou de spam representam menos de 5% de nossos usuários ativos mensais.

Abaixo estão algumas algumas de nossas ferramentas:

  • A maneira mais eficaz de combater bots suspeitos é detê-los antes que eles comecem. Para fazer isso, construímos sistemas capazes de identificar tentativas suspeitas de fazer login no Twitter, incluindo sinais de que um login pode ser automatizado ou possuir um script. Essas técnicas nos ajudam a capturar cerca de 450.000 logins suspeitos por dia. É importante destacar que grande parte desse trabalho defensivo é feito através de processos automatizados. Assim, conseguimos aperfeiçoar significativamente nossas ferramentas de spam e detecção de bots maliciosos, resultando em um aumento de mais de 64% ano a ano na detecção de logins suspeitos.
  • Estamos investindo em sistemas para impedir a publicação de conteúdos maliciosos no caso de sua origem corresponder a um autor já identificado como malicioso. No entanto, o uso de servidores proxy, VPNs e outras formas de autenticação, especialmente fora dos Estados Unidos, pode obscurecer a verdadeira origem do tráfego no Twitter. Estamos trabalhando para melhor identificar as origens verdadeiras do tráfego e bloquear a atividade de fontes suspeitas.
  • Também estamos melhorando a forma como detectamos e agrupamos as múltiplas contas que foram criadas por um único autor ou por uma única fonte suspeita. Apenas em uma semana do mês de setembro, utilizamos essas técnicas para evitar mais de 5,7 milhões de spams com origem de uma única fonte.
  • Detectando padrões de atividade não humana: usando sinais como a freqüência e o tempo entre Tweets e engajamentos, construímos modelos que podem indicar se uma atividade no Twitter é automatizada. Estamos expandindo a maneira como usamos esses sinais para restringir a forma como os usuários vêem contas suspeitas.
  • Detecção de conta comprometida: para impedir que contas comuns sejam exploradas para espalhar conteúdos maliciosos, estamos investindo em novas formas de identificar contas potencialmente comprometidas. Por exemplo, estamos criando sistemas para detectar quando a atividade é inconsistente com o comportamento típico de um usuário, e assim ajudá-lo a recuperar uma conta que esteja comprometida.
  • Verificando conteúdos suspeitos: as contas e conteúdos detectados como suspeitos por nossos sistemas estão sujeitos a uma série de ações e limitações de atividade, como: Tweets disponíveis no modo "somente leitura", alcance limitado dos Tweets, remoção de conteúdo e suspensão da conta.
  • Aplicativos de terceiros: também continuamos investindo na identificação proativa e ações contra aplicativos que violam nossas políticas de desenvolvedores -- incluindo bots e aplicativos automatizados. Existem bots muito úteis à prestação de serviços, mas estamos comprometidos em combater a minoria de aplicativos que criam spam e praticam abusos através da nossa API. Desde junho de 2017, suspendemos mais de 117 mil aplicativos maliciosos, coletivamente responsáveis por mais de 1,5 bilhão de Tweets de baixa qualidade este ano.
  • Prevenção de falsos positivos: qualquer sistema automatizado para detectar spam ou bots tem chance de ter falsos positivos, e é nosso objetivo tornar essa chance a menor possível. É por isso que normalmente damos aos usuários identificados pela nossa detecção de spam uma oportunidade para verificar se eles são legítimos antes de suspendê-lo da plataforma. Nesta janela, as contas podem ainda aparecer no Twitter e através da nossa API pública, mesmo que não consigam criar novos Tweets e engajamentos. Também limitamos a visibilidade dessas contas e seu conteúdo tanto na Pesquisa como nos Assuntos do Momento (Trending Topics).
  • Melhorando a verificação por telefone: quando detectamos uma conta com atividade suspeita, podemos exigir que esse usuário verifique seu número de telefone para recuperar o acesso ao Twitter. Mas, como os spammers adaptaram suas técnicas, descobrimos que nem todos os números de telefone são igualmente confiáveis. Melhoramos o nosso sistema de reputação de telefone para identificar números suspeitos e evitar o uso do mesmo número nos processos de verificação.

Uma nota sobre pesquisas de terceiros:

Estudos sobre o impacto de bots e automação no Twitter não consideram nossas ações, pois as mesmas são defensivas, não são visíveis através da nossa API e ocorrem logo após o conteúdo ser criado. Além disso, os pesquisadores que usam uma API geralmente ignoram recursos substanciais no produto, que priorizam o conteúdo mais relevante. Com base nos interesses e nas escolhas dos usuários, limitamos a visibilidade do conteúdo de baixa qualidade usando ferramentas como o Filtro de Qualidade e Pesquisa Segura -- os quais estão ativados por padrão para todos os usuários do Twitter e estão ativos para mais de 97% dos usuários globalmente.

Contas operadas por humanos

Embora tenhamos feito progressos importantes no que diz respeito ao spam e a outras formas de automação maliciosa no Twitter, identificamos desafios novos e emergentes relacionados a conteúdos não automatizados -- ou seja, contas dirigidas por humanos em vez de bots -- que coordenam suas atividades para espalhar informações.

Quando um grande número de contas dirigidas por humanos atuam de forma coordenada, elas podem ter um efeito semelhante ao do spam. Isso não significa que essas contas não estejam violando nossos Termos de Serviço -- em alguns casos, elas estão -- mas devemos abordar esse problema de forma diferente do que nós fazemos com bots e outras formas de conteúdo automatizado. É muito mais complicado identificar a coordenação não automatizada e os riscos de silenciar indevidamente uma atividade legítima são muito maiores. Continuamos trabalhando nisso e estamos empenhados em melhorar.

Influência nos Trending Topics

Ao longo dos anos investimos fortemente para combater spams e outras tentativas automatizadas que visam manipular os Trending Topics (Assuntos do Momento). Tomamos medidas ativas para protegê-los, como excluir Tweets e usuários automatizados de nossos cálculos de Tendências.

Como os spammers mudam suas táticas, nós modificamos ativamente nossas ferramentas tecnológicas para abordar tais situações. Desde junho de 2017, conseguimos detectar uma média diária de 130.000 contas que tentaram manipular os Trending Topics -- e tomamos medidas para evitar essa influência. Continuaremos buscando novas formas de ilustrar com exemplos o importante progresso que fizemos nesta frente.

Ciclos eleitorais

Nós estamos em contato regular com comissões eleitorais nacionais e sistematicamente reforçamos o nosso trabalho de segurança e as equipes que trabalham no tema durante momentos-chave dos ciclos eleitorais em todo o mundo. Continuaremos a fazer isso e expandiremos o nosso alcance para que tenhamos evoluções claras em nossos processos durante eleições importantes e eventos políticos globais.

Apoio à educação digital e informações de emergência precisas

Acreditamos que o desenvolvimento de habilidades digitais é mais importante do que nunca. É por isso que estamos criando um programa de educação digital para demonstrar como o Twitter pode ser uma ferramenta educacional indispensável. Também patrocinamos, contribuímos e hospedamos uma Semana de Educação Digital em alguns de nossos principais mercados.

Do vírus Zika ao furacão Harvey, a rapidez do Twitter é vital em cenários de emergência e pode salvar vidas. Queremos garantir que a informação factual seja elevada em nossa plataforma em tempos de crise. Como parte da nossa iniciativa filantrópica, continuamos a financiar campanhas promovidas, denominadas "Publicidade para o bem", que promovem esforços de socorro em desastres e elevam a comunicação vital de fontes confiáveis durante emergências.

Continuaremos trabalhando com repórteres e organizações de mídia para garantir que a capacidade do Twitter de dissipar as falsidades em tempo real esteja inserida na abordagem das salas de redação e dos meios de comunicação em todo o mundo.

Próximos passos

Ao longo das próximas semanas e meses, estaremos implementando várias mudanças nas atitudes que tomamos quando detectamos atividades suspeitas ou com spam, incluindo a introdução de novos esforços relacionados a logins, Tweets e engajamentos suspeitos e reduzindo a quantidade de tempo em que contas suspeitas permanecem visíveis no Twitter enquanto estiverem sendo analisadas. Enquanto houver pessoas tentando manipular o Twitter, estaremos trabalhando duro para detê-las.

O Twitter é onde o mundo vai para ver o que está acontecendo. Somos uma plataforma baseada em um compromisso com a transparência e levamos a sério esse legado e essa responsabilidade. Compartilharemos atualizações publicamente conforme for possível.

Este Tweet está indisponível
Este Tweet está indisponível.
@policy

Twitter Public Policy

‎@policy‎ verified

Global Public Policy, Twitter