Empresa

Apresentando nossa iniciativa de Machine Learning Responsável

A jornada por um sistema de machine learning responsável, responsivo e focado na comunidade é colaborativa. Por isso, anunciamos o Machine Learning Responsável, uma iniciativa global do Twitter para compartilhar as melhorias em algoritmos de machine learning e nossos próximos passos neste sentido.

O Machine Learning Responsável consiste em:

  • Assumir responsabilidade por nossas decisões de algoritmo;
  • Garantir equidade e imparcialidade nos resultados;
  • Fornecer transparência de nossas decisões e como chegamos até elas;
  • Permitir controle e escolha de algoritmo.

O uso responsável da tecnologia inclui o estudo dos efeitos que ela pode ter ao longo do tempo. Ao usar o machine learning, o Twitter pode impactar centenas de milhões de Tweets por dia e até alterar o modo de operação de um sistema. Essas mudanças sutis podem, então, ter um impacto nas pessoas que usam o Twitter e, por isso, queremos ter certeza de que estamos atentos a essas mudanças e usando-as para desenvolver um produto melhor.

Este Tweet está indisponível
Este Tweet está indisponível.

Ações que estamos tomando

As soluções técnicas por si só não resolvem os potenciais efeitos prejudiciais das decisões de algoritmo. Por conta disso, nosso grupo de trabalho de Machine Learning Responsável é formado por pessoas de diversas áreas da empresa, incluindo equipes técnicas, de pesquisa, segurança e produto.

Liderando este trabalho está a equipe de Ética, Transparência e Responsabilidade de Machine Learning, um grupo dedicado de engenheiros, pesquisadores e cientistas de dados que avaliam os atuais ou futuros danos não intencionais nos algoritmos que usamos e ajudam o Twitter a priorizar quais problemas serão combatidos primeiro.

Este Tweet está indisponível
Este Tweet está indisponível.

Como abordamos essa iniciativa

Estamos fazendo pesquisas para compreender o impacto das decisões do machine learning e conduzindo análises e estudos aprofundados para avaliar a existência de danos potenciais nos algoritmos que usamos.

Abaixo estão alguma análises às quais você terá acesso nos próximos meses:

  • Análise de viés racial e de gênero no nosso algoritmo de corte de imagem (saliência)
  • Avaliação da equidade de nossas recomendações em página inicial de todos os subgrupos raciais
  • Ponderação das recomendações de conteúdo para diferentes ideologias políticas em sete países
Este Tweet está indisponível
Este Tweet está indisponível.

Como usamos nossos aprendizados para melhorar o Twitter

As aplicações mais importantes do Machine Learning Responsável virão de como usamos nossos aprendizados para construir um Twitter melhor. 

A equipe de Ética, Transparência e Responsabilidade de Machine Learning realiza uma avaliação do funcionamento de nossos sistemas para melhorar a experiência que as pessoas têm na plataforma. Isso pode resultar em uma mudança em nosso produto, como a remoção de um algoritmo ou a possibilidade de maior controle sobre as imagens Tweetadas, além de novos padrões para a projeção e construção de políticas caso tenham impacto desproporcional em uma comunidade específica. Os resultados deste trabalho nem sempre são visíveis no produto, mas levam a uma maior conscientização e importantes discussões sobre a maneira pela qual construímos e aplicamos o machine learning.

Além disso, estamos construindo soluções para explicar o machine learning para tornar mais claro o entendimento de nossos algoritmos, de onde recebem informações e de que forma impactam o que você vê no Twitter. Da mesma forma, a escolha de algoritmo permitirá que as pessoas tenham mais informações e controle para decidir o que desejam do Twitter. Compartilharemos mais em breve.

Este Tweet está indisponível
Este Tweet está indisponível.

Compartilhando nossos aprendizados; solicitando comentários

Dividiremos, interna e externamente, nossos aprendizados e melhores práticas para aperfeiçoar a compreensão coletiva da indústria sobre este tema, ajudar na melhoria de nossa abordagem e nos responsabilizar. 

Essas informações podem ser compartilhadas por meio de pesquisas revisadas por pares; informações e tendências extraídas de dados; ou descrições detalhadas de nossas descobertas, abordagens ou tentativas mal sucedidas de enfrentar esses desafios emergentes. Continuaremos trabalhando em parceria com pesquisadores acadêmicos para identificar maneiras de melhorar nosso trabalho e incentivar comentários construtivos.

O público desempenha um papel importante no desenvolvimento do Twitter - e com o Machine Learning Responsável não é diferente. Os comentários do público são de grande importância para que possamos avaliar a imparcialidade e a equidade dos sistemas automatizados que usamos. Acreditamos que tomamos melhores decisões quando as pessoas que usam o Twitter fazem parte do processo e, por isso, estamos trabalhando para que possam compartilhar suas ideias sobre como o machine learning é usado no serviço.

Este Tweet está indisponível
Este Tweet está indisponível.

Próximos passos

O anúncio do Machine Learning Responsável é apenas o início. Queremos abordar o assunto de forma ampla para contribuir positivamente para o campo da ética na tecnologia. Caso você tenha alguma dúvida sobre essa ou outras iniciativas neste tema, Tweete uma pergunta usando a hashtag #AskTwitterMETA.

Este Tweet está indisponível
Este Tweet está indisponível.
@ruchowdh

Rumman Chowdhury

‎@ruchowdh‎

Diretora de Machine Learning, Ethics, Transparency & Accountability

Só no Twitter