O mundo secreto das automações bem intencionadas

O que vem à sua mente quando pensa em um bot no Twitter? Provavelmente, uma enxurrada de spam nas suas DMs ou uma fazenda de trolls espalhando notícias falsas e teorias da conspiração. Devido, em grande parte, a campanhas de desinformação promovidas nas eleições norte-americanas em 2016, muita gente associa os bots a esse tipo de atividade prejudicial. Há um bom motivo para isso: o Twitter detecta cerca de 25 milhões de contas por mês suspeitas de serem automatizadas ou de spam. Só na segunda metade de 2020, 143 milhões de desafios anti-spam foram realizados, o que ajudou a reduzir em cerca de 18% as denúncias de spam - de pessoas que marcam um Tweet como tal - em comparação com a primeira metade do ano.

O Twitter tem uma equipe de análise totalmente dedicada a monitorar e remover esses perfis. Mas essa tarefa não é tão simples quanto estabelcer uma proibição geral de contas automatizadas.

Há bots de toda forma e tamanho. Inclusive, é provável que você até esteja seguindo e curtindo alguns deles. Pode ser o caso, por exemplo, de um bot COVID-19 que avisa sobre a disponibilidades de vacinas na sua área, que emite alertas sobre inundações no seu bairro, ou mesmo um bot "artista" que se encarrega de injetar doses de cor e alegria na sua timeline. A maneira como esses bots são representados no Twitter é quase tão importante quanto o que eles fazem por seus seguidores. 

É aí que entra Oliver Stewart. Como principal pesquisador da equipe de identidade e perfis do Twitter, ele procura entender como a confiança interpessoal é desenvolvida na plataforma e como as contas automatizadas podem afetá-la. 

“Há muitos bots no Twitter que fazem coisas boas e ajudam as pessoas", diz Stewart. “Queríamos saber mais sobre como eles funcionam para que pudéssemos ajudar as pessoas a identificá-los e a se sentirem mais à vontade, entendendo o espaço que eles ocupam”.  

A equipe comandada por Stewart descobriu que as pessoas tendem a achar um conteúdo mais confiável quando elas sabem quem o está compartilhando, a começar por se a conta é humana ou automatizada. Para ajudar a resolver a questão dos bots, o Twitter lançou recentemente novas etiquetas que os identificam com uma designação “automatizada” em seu perfil, um ícone de um robô e um link para a página da pessoa que o criou. “Não só estamos marcando esses robôs, mas também dizendo quem são os responsáveis e por que eles existem”, diz Stewart. “Com base em uma pesquisa preliminar, levantamos a hipótese de que isso criará um ambiente no qual eles serão muito mais confiáveis”.  

Por que estamos encarando a missão de marcar os robôs em vez de bani-los do Twitter?

“Não é necessariamente errado ter contas automatizadas no Twitter e, obviamente, nem todas são terríveis. Um bot de vacinas, por exemplo, fez o maior sucesso em Nova York", diz Dante Clemons, gerente de produto sênior encarregada de criar e testar essas etiquetas. Ela se refere ao bot Turbovax , que Tweetou sobre horários de vacinação para seus 160 mil seguidores. “Foquei nessas contas porque são elas que podem nos ajudar a mudar a opinião que temos sobre os bots”. 

As etiquetas não classificam os bots como bons ou maus, apenas sinalizam que aquela conta é automatizada. “Se ele for compatível com as regras do Twitter, tudo bem estar na plataforma. Já os que não estão em conformidade, estamos trabalhando ativamente para removê-los do Twitter", diz Clemons.

A vida secreta de um desenvolvedor de bots

Clemons decidiu começar com um experimento pequeno, trabalhando ao lado de 10 desenvolvedores com os quais o Twitter tinha estabelecido um relacionamento, que se ofereceram como voluntários para marcar suas 532 contas de bots. A maioria delas, cerca de 500, tinha sido criada pelo artista e desenvolvedor de bots Andrei Taraschuk. 

Trabalhando como engenheiro de software em Boulder, no estado do Colorado, Taraschuk começou a criar bots para compartilhar seu amor pelas artes com seus seguidores. Formado em pintura, e sendo membro de uma família de artistas, ele produziu bots que somam mais de 4 milhões de seguidores, incluindo o ex-CEO do Twitter, Jack Dorsey. Ao lado de seu parceiro desenvolvedor,Cody Braun, ele produziu bots para museus como o Metropolitan Museum of Art, de Nova York, o Art Institute of Chicago e o Guggenheim, para ajudá-los a divulgar suas coleções, investindo seus próprios recursos e tempo. 

“Temos a expectativa de que os humanos sejam mais autênticos, e achamos que interagir com eles é melhor. Mas, quando se trata de arte, as pessoas têm seus próprios preconceitos", diz Taraschuk. “​​Em muitos casos, os bots são mesmo melhores que nós: nunca se esquecem nem cansam de compartilhar. Além disso, se lembram exatamente do que compartilharam e do que não compartilharam". 

Os bots de arte Tweetam quase 250 mil obras por mês. Só em setembro, receberam cerca de três milhões de curtidas e 10 mil comentários. Ninguém conseguiria responder a tantos comentários, mas eles conseguem. 

Taraschuk acredita que as etiquetas ajudam as pessoas a gerenciar suas expectativas ao interagir com uma conta automatizada, especialmente quando ela assume a identidade de uma pessoa. “Como quando você segue o Monet. Eu não quero que as pessoas achem que estão seguindo o Monet de verdade".

​​Taraschuk entrou em contato com a equipe de apoio ao desenvolvedor do Twitter pela primeira vez ao ver que todos os seus bots de arte tinham sido excluídos da noite para o dia, na época das eleições de 2016 nos Estados Unidos, quando as contas automatizadas foram associadas à interferência e à desinformação. A partir daí, ele se tornou um dos primeiros defensores dos bots, explicando o seu potencial para as equipes do Twitter. 

“Isso deu início à minha longa jornada de conversas com o Twitter, defendendo essa ideia como quem diz: 'ei, embora eu seja russo, e os russos sejam muitas vezes associados à criação de bots nocivos, os meus estão levando cultura para o Twitter',” conta o artista. 

Outros desenvolvedores criaram bots com o propósito de tornar o Twitter uma plataforma mais acessível. Hannah Kolbeck, criadora dos bots Alt Text Reminder e Alt Text Crew , também fez parte das primeiras rodadas de marcação de bots. Engenheira de software de Portland, no estado de Oregon, Kolbeck teve a ideia de produzir seu bot com base na sua comunidade local de ativistas no Twitter. O Alt Text Reminder envia mensagens diretas aos seus seguidores quando eles Tweetam uma imagem sem uma descrição, para lembrá-los de incluir um texto alternativo para torná-la mais acessível. (O Texto alternativo pode ser lido por um leitor de tela, tornando as imagens acessíveis às pessoas cegas). 

Kolbeck também programou o seu bot para Tweetar publicamente para o Oregonian, jornal de Oregon vencedor do prêmio Pulitzer, para lembrá-lo de incluir textos alternativos em suas imagens. Ela conta que, hoje em dia, essa descrição é colocada em pelo menos 75% dos Tweets da publicação.

“Se você é uma empresa e não é acessível, isso é um problema”, diz Kolbeck. “As pessoas que não podiam ver as imagens estavam sendo excluídas de grande parte da vida pública no Oregon".

Assim como Taraschuk, Kolbeck aprova o uso de etiquetas em bots porque as pessoas já confundiram o dela com uma pessoa real. “Elas faziam comentários do tipo: 'como você consegue responder a cada postagem? Não tem mais o que fazer?'. E, literalmente, não tenho". 

Como equilibrar confiança e segurança

Entre os pontos positivos, Kolbeck acredita que um marcador explícito para bots ajudará a torná-los um pouco mais confiáveis. Mas ela também enxerga uma desvantagem potencial, usando o exemplo de Editing the Gray Lady, um bot que Tweeta toda vez que o New York Times edita uma manchete ou um trecho de reportagem. Ainda que não saiba quem criou esse bot, ela tem receio de que ​uma conta de destaque como essa poderia expor o desenvolvedor a assédio.

Essa é uma das ponderações que as equipes do Twitter precisam fazer ao administrar o equilíbrio entre identificação e segurança. Stewart, que começou sua carreira no Twitter pesquisando se deveria ser exigido do usuários que utilizassem suas identidades reais, acredita que permitir o anonimato é um dos pontos fortes da plataforma. 

“Não temos um sistema de identidade baseado em saber que sou um cara branco e heterossexual chamado Oliver Stewart que mora no Colorado. Para muita gente, particularmente pessoas de comunidades vulneráveis ​​ou perseguidas, grupos minoritários, ativistas e jornalistas, compartilhar esse tipo de informação significa não poder se expressar com segurança”, diz. “Então, em vez disso, permitimos que apresentem uma versão verdadeiramente autêntica de si mesmas que não depende de identificadores do mundo real, como raça, nome, localização etc".

Para Stewart, marcar bots faz parte de um objetivo maior que é apoiar e abrir espaço para um espectro mais amplo de vozes na plataforma. “Como a identificação afeta o debate público? Quais são as vozes que as pessoas querem ouvir e como podemos garantir que essas forças sejam equilibradas e igualitárias?”, diz ele.

Mas Stewart esclarece rapidamente que as marcações de bots não são a mesma coisa que os selos azuis de verificação, nem endossos. “Não estamos tentando dizer ‘esse bot é bom’ no sentido de qualidade, porque isso é muito subjetivo. A ideia é apenas deixar claro que essa é uma conta automatizada que, ao nosso ver, não está causando nenhum dano e cujo proprietário quer ser honesto com você”, diz ele. “Ninguém tem que sair por aí dizendo em quem confiar ou não. Nosso objetivo é dar às pessoas as ferramentas para que tomem essas decisões por conta própria."

Segundo Clemons, de maneira geral a resposta dos desenvolvedores nessa fase inicial tem sido positiva. De acordo com ela, mais marcações para contas automatizadas devem ser lançadas no começo do ano que vem. Qualquer programador que queira criar um robô deveria identificá-lo como uma conta automatizada vinculada a seu perfil pessoal no Twitter. “Em última análise, você atinge os bots do mal resolvendo o problema dos do bem”, diz ela. “E essa é a estratégia de longo prazo nesse caso".