Cómo Twitter está combatiendo el spam y la automatización maliciosa

Todos los días los usuarios vienen a Twitter para ver lo que está pasando. Uno de nuestros principales objetivos a la hora de mejorar la salud de las conversaciones en Twitter es asegurar que las personas tienen acceso a información creíble, relevante y de alta calidad en la plataforma. Para ayudar a cumpir este objetivo hemos introducido nuevas medidas para combatir el abuso y los trolls, nuevas políticas sobre conductas de odio y extremismo violento, y estamos incorporando nuevas tecnologías y profesionales para combatir el spam y los abusos.

Pero sabemos que aún hay mucho trabajo por hacer. Las cuentas falsas, el spam y los sistemas automatizados maliciosos alteran la experiencia de los usuarios en Twitter, y nunca dejaremos de esforzarnos para identificar y prevenir intentos de manipular conversaciones en nuestra plataforma.

Hoy queremos compartir algunos progresos recientes y nuevas medidas sobre cómo manejamos el spam, los sistemas automatizados maliciosos y la manipulación en la plataforma.

Nuevos procesos para luchar contra la automatización maliciosa y el spam

Twitter combate el spam y los bots maliciosos de forma estratégica y a gran escala. Nuestro objetivo es identificar cada vez más cuentas y comportamientos problemáticos de forma proactiva, en lugar de esperar a recibir denuncias sobre ellos. Estamos desarrollando herramientas de machine learning que identifiquen y actúen sobre redes de spam o cuentas automatizadas de forma sistemática. Esto nos permite abordar los intentos de manipular conversaciones en Twitter a gran escala, independientemente del idioma o la zona horaria, sin que nuestra actuación dependa de reaccionar tras una denuncia.

Nuestros esfuerzos en este sentido están teniendo un impacto positivo:

• En mayo de 2018 nuestros sistemas identificaron y cuestionaron más de 9,9 millones de cuentas spam o potencialmente automatizadas por semana. Un incremento significativo desde los 6,4 millones en diciembre de 2017 y los 3,2 millones en septiembre del mismo año.
• Gracias a las mejoras en tecnologías y procesos durante el pasado año, actualmente estamos eliminando un 214% más de cuentas anualmente por violar nuestras políticas de spam.
• Al mismo tiempo, la cifra media de reportes de spam que hemos recibido a través de nuestro canal de denuncia ha continuado disminuyendo, desde una media de aproximadamente 25.000 al día en marzo a unos 17.000 diarios en mayo. También hemos visto una caída del 10% en denuncias de spam desde búsquedas como resultado de nuestros recientes cambios. Esta disminución en los reportes recibidos significa que las personas están encontrando menos spam en sus timelines, en sus búsquedas y en toda la plataforma.
• También estamos trabajando rápidamente para contener el spam y el abuso que se genera a través de las APIs de Twitter. En el primer trimestre de 2018 hemos suspendido más de 142.000 aplicaciones que violaban nuestras reglas -responsables colectivamente de más de 130 millones de tuits de baja calidad o spam-. Hemos mantenido este ritmo de acción proactiva, eliminando una media de más de 49.000 aplicaciones maliciosas al mes en abril y mayo. Seguimos utilizando métodos proactivos y automatizados de detección para identificar malos usos de nuestra plataforma antes de que impacten en la experiencia de los usuarios. Más de la mitad de las aplicaciones que hemos suspendido en Q1 fueron suspendidas en la primera semana de su registro, muchas de ellas en las primeras horas.

Estas cifras evidencian que nuestras herramientas están funcionando. Estamos detectando y previniendo más de este tipo de actividades antes de que llegues a verlas en Twitter.

La manipulación y el spam en la plataforma son retos a los que seguimos enfrentándonos y que continúan evolucionando, y estamos trabajando para ser más transparentes con vosotros sobre nuestro trabajo. Por ello, también queremos compartir cuatro nuevas medidas que estamos tomando para abordar estos temas:

1) Reducir la visibilidad de cuentas sospechosas en métricas de tuits y cuentas

Una forma común de comportamiento automatizado o en forma de spam es seguir cuentas de manera coordinada y masiva. Muchas veces las cuentas relacionadas con estas actividades son detectadas por nuestras herramientas de detección automática (y eliminadas de nuestras métricas de usuarios activos) muy poco después de que ese comportamiento comience. Pero no hemos hecho lo suficiente en el pasado para dejar claro el impacto de nuestras detecciones y acciones. Por esa razón hemos empezado a actualizar las métricas de cuentas casi en tiempo real. Por ejemplo, el número de seguidores que tiene una cuenta, o el número de likes o retweets que recibe un tuit, será correctamente actualizado cuando actuemos en las cuentas.

Así, si ponemos una cuenta en un estado de ‘solo lectura’ (en el que la cuenta no puede relacionarse con otros usuario ni tuitear) porque nuestros sistemas han detectado que se comporta de forma sospechosa, no se contabiliza en la cifra de seguidores ni en engagement hasta que supera unas pruebas, como confirmar un número de teléfono. También mostramos un aviso en las cuentas de solo lectura y evitamos que nuevos usuarios les sigan para ayudar a evitar la exposición inadvertida de contenido potencialmente malicioso. Si la cuenta pasa las pruebas, su actividad será restaurada (aunque podría llevar algunas horas). Estamos trabajando para que estas medidas de protección sean más transparentes para cualquiera que intente interactuar con una cuenta en estado de solo lectura.

Como resultado de estas mejoras, algunos usuarios pueden ver que las métricas de su cuenta cambian de forma más regular. Pero pensamos que este es un cambio importante en la forma en que mostramos información de tuits y cuentas para asegurar que los actores maliciosos no son capaces de impulsar artificialmente la credibilidad de una cuenta de manera permanente inflando métricas como su número de seguidores.

En las próximas semanas tendremos más que compartir sobre nuevos pasos que estamos dando para reducir el impacto de este tipo de actividades en Twitter.

2) Mejorar nuestro proceso de registro

Para dificultar el registro de cuentas de spam, también solicitaremos a los usuarios que se registren por primera vez en Twitter que confirmen una cuenta de email o bien un número de teléfono. Este es un cambio importante para defendernos frente a personas que tratan de aprovecharse de la apertura de nuestra plataforma. Hemos trabajado estrechamente con nuestro Consejo Trust & Safety y otras ONG expertas para asegurar que este cambio no hiera a alguien en un entorno de alto riesgo donde el anonimato es importante. En este sentido, también tendremos novedades más adelante este año.

3) Auditar cuentas existentes buscando signos de registros automatizados

También estamos llevando a cabo una auditoría para asegurar una serie de sistemas utilizados para crear cuentas. Nuestro objetivo es asegurar que cada cuenta creada en Twitter pase por unos filtros de seguridad simples y automatizados, diseñados específicamente para evitar este tipo de registros automatizados. Las nuevas protecciones que hemos desarrollado como resultado de esta auditoría ya nos han ayudado a evitar más de 50.000 registros spam al día.

Como parte de esta auditoría, estamos tomando medidas para someter a pruebas a un gran número de cuentas de spam sospechosas que hemos detectado gracias a una investigación sobre el mal uso de un parte antigua del flujo de registro. Estas cuentas son principalmente seguidores spam, que en muchos casos parecen seguir de forma automática o en bloque a cuentas verificadas o de alto perfil sugeridas a nuevas cuentas durante el proceso de registro. Como resultado, algunos usuarios pueden ver que su número de seguidores baja -al desafiar a una cuenta, ésta no se contabilizará como seguidora de las cuentas a las que sigue hasta que su propietario pase las pruebas-. Esto no quiere decir que las cuentas que parezcan perder seguidores hayan hecho algo mal; pueden haber sido objetivo de spam que ahora estamos limpiando. Recientemente hemos tomado más medidas para limpiar el spam y actividades automatizadas y para cerrar fisuras que han estado siendo aprovechadas, y queremos ser más transparentes sobre las acciones que tomamos.

4) Ampliación de nuestros sistemas de detección de comportamientos maliciosos

También estamos automatizando algunos procesos donde vemos actividades de cuentas sospechosas, como un alto volumen de tuits de forma excepcional con el mismo hashtag, o utilizando el mismo @handle sin respuesta de la cuenta que están mencionando. Estos tests varían en intensidad, y a un nivel básico pueden suponer que el propietario de la cuenta complete un sencillo proceso reCAPTCHA o una solicitud para resetear su clave. Los casos más complejos pasan automáticamente a nuestro equipo para ser revisados.

Qué puedes hacer

Hay algunos pasos importantes que puedes tener en cuenta para proteger tu seguridad en Twitter:

• Activa la autenticación de dos factores. En lugar de solo acceder con tu clave para iniciar sesión, también introducirás un código que se envía a tu teléfono móvil. Esta verificación te permite estar seguro de que tú, y solo tú, puedes acceder a tu cuenta.
• Revisa de forma regular las aplicaciones de terceros. Puedes revisar y revocar acceso a aplicaciones en la pestaña Apps de tu configuración de cuenta en twitter.com
• No reutilices tus claves en distintas plataformas o websites. Ten una única clave para cada una de tus cuentas.
• Puedes utilizar una llave de seguridad FIDO Universal 2nd Factor (U2F) para la verificación de inicio de sesión cuando accedes a Twitter

Además, si crees que has sido abordado de forma incorrecta por alguno de nuestros sistemas automatizados de detección de spam puedes utilizar nuestro proceso de apelación para solicitar la revisión de tu caso.

Próximos pasos

En los próximos meses, Twitter continuará invirtiendo en este tema, incluyendo el impulso de la tecnología de machine learning y acuerdos con terceros. También estamos deseando anunciar próximamente los resultados de nuestra Petición de propuestas (RFP en inglés) para el análisis de métricas de salud de la conversación pública.

Estos temas afectan a todo el mundo, desde elecciones políticas a emergencias o conversaciones públicas de alto nivel. Como hemos afirmado en anuncios recientes, la salud pública de la conversación en Twitter es un elemento fundamental por el que mediremos nuestro éxito en estas áreas.