Presentamos nuestra iniciativa de aprendizaje automático responsable

El camino hacia sistemas de aprendizaje automático (ML por sus siglas en inglés) responsables, receptivos e impulsados ​​por la comunidad debe ser colaborativo. Hoy, queremos compartir más sobre el trabajo que hemos estado haciendo para mejorar nuestros algoritmos de aprendizaje automático dentro de Twitter y los pasos a seguir a través de una iniciativa que afecta a toda la compañía y que hemos denominado Aprendizaje Automático Responsable.

El aprendizaje automático consiste en los siguientes pilares:

  • Asumir la responsabilidad de nuestras decisiones sobre los algoritmos
  • Equidad y justicia en los resultados
  • Transparencia sobre nuestras decisiones y cómo llegamos a ellas
  • Facilitar la libertad de elección algorítmica por parte de los usuarios

El uso responsable de la tecnología incluye estudiar los efectos que puede tener a lo largo del tiempo. Cuando Twitter usa aprendizaje automático, puede afectar a cientos de millones de Tweets por día y, a veces, la forma en que se diseñó un sistema para ayudar podría comenzar a comportarse de manera diferente a la prevista. Estos cambios sutiles pueden comenzar a afectar a las personas que usan Twitter y queremos asegurarnos de que estamos estudiando esos cambios y usándolos para crear un mejor producto.

Quiénes están involucrados y qué acciones que estamos tomando

Las soluciones técnicas por sí solas no resuelven los posibles efectos dañinos de las decisiones algorítmicas. El grupo de trabajo de nuestra iniciativa de Aprendizaje Automático Responsable es interdisciplinario y está formado por personas de toda la empresa, incluidos los equipos técnicos, de investigación, de confianza y seguridad y de productos.

Liderando este trabajo está nuestro equipo de Ética, Transparencia y Responsabilidad del Aprendizaje Automático (META): un grupo de ingenieros, investigadores y científicos de datos que colaboran en toda la empresa para evaluar los daños no intencionales posteriores o actuales en los algoritmos que usamos y para ayudar a Twitter a priorizar qué problemas abordar primero.

Así es como estamos enfocando esta iniciativa:

Investigando y comprendiendo el impacto de las decisiones del Aprendizaje Automático: Estamos realizando análisis y estudios en profundidad para evaluar la existencia de daños potenciales en los algoritmos que utilizamos. Aquí hay algunos análisis a los que tendrás acceso en los próximos meses:

  • Un análisis de sesgo racial y de género de nuestro algoritmo de recorte de imágenes
  • Una evaluación equitativa de nuestras recomendaciones de la cronología de inicio en todos los subgrupos raciales
  • Un análisis de recomendaciones de contenido para diferentes ideologías políticas en siete países.

Aplicando nuestros aprendizajes para mejorar Twitter. Las aplicaciones más impactantes del Aprendizaje Automático Responsable provendrán de cómo aplicamos nuestros aprendizajes para construir un mejor Twitter. El equipo META trabaja para estudiar cómo funcionan nuestros sistemas y utiliza esos hallazgos para mejorar la experiencia que las personas tienen en Twitter. Esto puede resultar en un cambio de nuestro producto, como la eliminación de un algoritmo y dar a las personas más control sobre las imágenes que tuitean, o en nuevos estándares sobre cómo diseñamos y creamos políticas cuando tienen un impacto enorme en una comunidad en particular. Es posible que los resultados de este trabajo no siempre se traduzcan en cambios visibles en el producto, pero generarán una mayor conciencia y debates importantes sobre la forma en que creamos y aplicamos el aprendizaje automático.

También estamos creando soluciones de Aprendizaje Automático fáciles de explicar para que puedas comprender mejor nuestros algoritmos, qué los informa y cómo afectan lo que ves en Twitter. De manera similar, la elección algorítmica permitirá a las personas tener más participación y control para dar forma a lo que quieren que sea Twitter para ellos. Actualmente, estamos en las primeras etapas de exploración de este tema y pronto compartiremos más.

Compartiendo nuestros aprendizajes y solicitando comentarios. Tanto dentro como fuera de Twitter, compartiremos nuestros aprendizajes y mejores prácticas para mejorar la comprensión colectiva de la industria sobre este tema, ayudarnos a mejorar nuestro enfoque y rendir cuentas. Esto puede darse de diferentes formas, por ejemplo, como una investigación revisada por pares, conocimientos de datos, descripciones de alto nivel de nuestros hallazgos o enfoques e incluso algunos de nuestros intentos fallidos de abordar estos desafíos emergentes. Continuaremos trabajando en estrecha colaboración con investigadores académicos externos para identificar formas en que podamos mejorar nuestro trabajo y recibir sus comentarios.

El público juega un papel fundamental en la configuración de Twitter y, también en el caso del Aprendizaje Automático Responsable. Los comentarios públicos son particularmente importantes ya que evaluamos la imparcialidad y equidad de los sistemas automatizados que utilizamos. Se toman decisiones mejores y más informadas cuando las personas que usan Twitter son parte del proceso, y buscamos crear más oportunidades para que las personas compartan sus opiniones sobre cómo se usa el Aprendizaje Automático en Twitter.

¿Y ahora?

El Aprendizaje Automático Responsable es un largo camino que acabamos de empezar a recorrer. Queremos explorarlo con espíritu de apertura con el objetivo de contribuir positivamente al campo de la ética tecnológica. Si tienes alguna pregunta sobre el Aprendizaje Automático Responsable o el trabajo que realiza el equipo META, no dudes en consultarnos usando el hashtag #AskTwitterMETA. Si quieres ayudar, únete a nosotros.

Este Tweet no está disponible
Este Tweet no está disponible.

Jutta Williams

‎@Williams_Jutta‎

Staff Product Manager ML Ethics, Transparency & Accountability (META)

Rumman Chowdhury

‎@ruchowdh‎

Director, Software Engineering

Solo en Twitter