Uma atualização sobre denúncias de potencial desinformação no Twitter

Estamos sempre estudando e testando novas formas de abordar informações potencialmente enganosas no Twitter. Enquanto nosso trabalho nesta frente ganha escala, nos comprometemos a considerar os relatos das pessoas no Twitter para nos ajudar a entender as conversas e os desafios relacionados a desinformação em nosso serviço. 

Em agosto de 2021, começamos a testar nos Estados Unidos, Austrália e Coreia do Sul um novo mecanismo de denúncia de informações potencialmente enganosas. Lançamos o experimento para analisar se esta é uma ferramenta efetiva para que a comunidade do Twitter denuncie desinformação em tempo real. Hoje, estamos expandindo o teste da funcionalidade para o Brasil, a Espanha e as Filipinas. 

Selecionamos esses países porque queremos colher aprendizados de uma pequena, porém geograficamente diversificada, gama de regiões - incluindo aquelas em que o inglês não é o primeiro idioma - antes de tornar a ferramenta disponível globalmente. Além disso - e paralelamente a nossas políticas já existentes em eventos cívicos anteriores -, o fato de 2022 ser ano de eleições no Brasil e nas Filipinas, assim como de meio de mandato nos Estados Unidos, contribuirá para a avaliação de como esta ferramenta de denúncias seria usada em períodos de grandes eventos cívicos.  

Nossa abordagem

A grande maioria dos conteúdos em que tomamos medidas de acordo com nossas políticas de informações enganosas sobre a Covid-19, de integridade cívica e de mídia sintética e manipulada é detectada proativamente por nós. Mais de 50% do conteúdo que viola nossas regras é identificado por sistemas automatizados, e a maior parcela do restante é identificada a partir do monitoramento contínuo de nossas equipes internas ou do nosso trabalho com parceiros externos de confiança. 

Queremos entender se e como as opções de denúncia pelas pessoas podem trazer melhorias, em termos de agilidade e abrangência, aos nossos esforços para detectar informações potencialmente danosas. Desde o lançamento deste teste, recebemos 3,73 milhões de denúncias referentes a 1,95 milhão de diferentes Tweets publicados por 64 mil contas distintas. Temos utilizado essas denúncias de duas maneiras:

1. Para revisar um subconjunto de Tweets identificados pelas pessoas por potenciais violações
2. Para identificar narrativas e tendências relacionadas a desinformação que estão surgindo no mundo, nos mantendo informados e atualizados para a detecção proativa e no aprendizado de máquina, assim como nos ajudando na criação de Moments a respeito dessas narrativas

Enquanto damos continuidade à expansão do experimento, e como tem acontecido até aqui no âmbito do teste, podemos não tomar medidas em relação a todas as denúncias recebidas, assim como não poderemos responder a cada uma delas. 

O que aprendemos

Descobrimos que essas denúncias representam uma útil, porém complexa, fonte de informação sobre potenciais violações às nossas regras. Menos de 10% da amostra de Tweets analisada pelas nossas equipes correspondia a violações às políticas. Apenas para se ter uma ideia, essa parcela fica em uma média de 20% a 30% nos casos de Tweets denunciados por abuso e segurança. A baixa proporção de violação entre as denúncias de desinformação é motivada principalmente pelo grande volume de denúncias recebidas sobre Tweets cujos assuntos não são relacionados àqueles em que agimos de acordo com nossas políticas.  

Por outro lado, sabemos que a ferramenta de denúncia tem benefícios adicionais: dar às pessoas essa opção faz com que elas se sintam mais empoderadas. Nossas pesquisas também têm mostrado que as pessoas preferem usar o mecanismo de denúncia em vez de interagir com um Tweet enganoso via Retweets ou respostas. 

Isso nos leva a duas conclusões:

• Primeiro, precisamos dar continuidade à otimização de como filtramos e priorizamos as denúncias, garantindo eficiência antes de disponibilizarmos essa ferramenta para todas as pessoas. Temos sido bem sucedidos em melhorar a taxa de tomada de medidas em relação ao volume de denúncias referentes a outras políticas, como de segurança por exemplo, a partir do desenvolvimento de um modelo de aprendizado de máquina capaz de estimar a probabilidade de haver violações às nossas regras.  Esses modelos requerem pesquisa e treinamento de dados (especialmente em idiomas além do inglês). A continuidade do experimento vai nos ajudar a chegar lá.
• Segundo, denúncias são especialmente valiosas como uma fonte de inteligência a respeito de narrativas e tendências que estão surgindo. A partir do experimento em curso, temos sido capazes de identificar mais desinformação não baseada em texto compartilhada no Twitter, incluindo em links de terceiros e conteúdo em mídia (vídeos e fotos, por exemplo). 

O que está por vir

Esperamos que a ferramenta de denúncias ajude nossas equipes a entender melhor novas narrativas e tendências em desinformação, em escala, e contribua para que avancemos na capacidade de detectar conteúdo enganoso no Twitter em tempo real. Seguiremos usando dados do teste para compreender como temos utilizado as denúncias de desinformação, bem como com os planos de lançamento da ferramenta globalmente no decorrer de 2022.