Entreprise

Bot ou pas ? Les faits sur la manipulation de la plateforme

Il y a quelques années, on a beaucoup parlé des "bots" en ligne. Cependant, avec le temps, ce terme est devenu tendancieux et souvent incompris.

Les gens font souvent référence aux ”bots” lorsqu'ils décrivent tout : de l'activité d'un compte automatisé, à des personnes qui préfèrent rester anonymes pour des raisons personnelles ou de sécurité, ou qui évitent de mettre une photo parce qu'elles ont de fortes préoccupations en matière de vie privée. Ce terme est utilisé pour caractériser, de manière erronée, des comptes dont les noms d'utilisateur incluent des chiffres car générés automatiquement lorsque votre nom d’utilisateur souhaité est déjà utilisé, et plus inquiétant encore, comme un outil utilisé par des personnes dans la sphère politique afin de ternir l'image de personnes pouvant être en désaccord avec eux ou, d'une opinion publique en ligne qui n'est pas favorable.

Il existe également de nombreuses entreprises qui prétendent offrir des informations sur les robots et leur activité en ligne, et souvent, celles-ci se concentrent entièrement sur Twitter en raison de l’accès gratuit à la donnée publique que nous fournissons par le biais de nos API publiques. Malheureusement, ces recherches sont rarement évaluées par leur pairs et ne sont que peu crédibles face à un examen minutieux, ce qui ne fait qu'embrouiller davantage la compréhension du public sur ce qui se passe réellement.

Décomposons le sujet et expliquons les faits.

Qu’est-ce qu’un bot ?

Suite à ce que nous avons décrit ci-dessus, il y a beaucoup de confusion tout à fait compréhensible, et nous devons mieux nous expliquer. En résumé, un bot est un compte automatisé ni plus ni moins.

Il y a quelques années, les comptes automatisés étaient un problème pour nous. Nous nous sommes concentrés sur ce problème, nous avons fait les investissements nécessaires et nous avons constaté des résultats importants en nous attaquant à ce problème sur tous les espaces de Twitter. Cela ne signifie pas que notre travail est terminé.

Ce Tweet n'est pas disponible
Ce Tweet n'est pas disponible.

Ce qui est le plus important en 2020, c'est le comportement global d'un compte, et non pas seulement le fait qu'il soit automatisé ou non. C'est pourquoi les appels à étiqueter les bots ne permettent pas de comprendre le problème que nous essayons de résoudre et les erreurs que nous pourrions commettre auprès de vraies personnes qui ont besoin de notre service pour se faire entendre. Ce n'est pas seulement une question binaire de bot ou non - c’est ce qu’il y a entre les deux qui importe.

C'est pourquoi nous concentrons notre attention sur les domaines où le travail est le plus critique. Nous appelons cela la manipulation de la plateforme.  

Qu'est-ce que la manipulation de la plateforme ?

Notre travail proactif est axé sur la manipulation sous de nombreuses formes, et cela inclut l'utilisation malveillante de l'automatisation. Comme nous l'avons vu, nos politiques dans ce domaine se concentrent sur le comportement, et non sur le contenu, et sont rédigées de manière à cibler les stratégies de spam que différentes personnes ou groupes pourraient utiliser pour tenter de manipuler les conversations sur Twitter (plutôt que sur ce qu'ils disent spécifiquement). 

Il est important de noter que toutes les formes d'automatisation ne sont pas nécessairement des violations des règles de Twitter. Nous avons vu des utilisations innovantes et créatives de l'automatisation pour enrichir l'expérience Twitter avec par exemple des comptes comme @pentametron et @tinycarebot.

L'automatisation peut également être un outil puissant dans les interactions avec des services de relation client, où un bot conversationnel peut aider à trouver automatiquement des informations sur des commandes ou des réservations de voyage. C'est incroyablement utile et efficace pour les petites entreprises, en particulier à l’ère de la distanciation sociale.

Qu'est-ce qui est interdit ?

  • L'utilisation malveillante de l'automatisation pour discréditer et perturber la conversation publique, comme essayer de faire monter un sujet dans les Tendances 
  • Amplification artificielle des conversations sur Twitter, notamment par la création de comptes multiples ou qui se recoupent
  • Générer, solliciter ou acheter de faux engagements
  • Tweeter, engager ou suivre de façon massive ou agressive
  • L'utilisation de hashtags de manière spammeuse, y compris l'utilisation de hashtags sans rapport dans un Tweet (alias "hashtag cramming")

Notre pouvoir technologique pour identifier et supprimer de manière proactive ces comportements sur l'ensemble de notre service est plus sophistiqué que jamais. Chaque mois, nous suspendons de manière permanente des millions de comptes automatisés ou spammeurs, et ce, avant même qu'ils n'atteignent le moindre espace que ce soit le fil d’actualité ou la recherche.

Nous publions également des données sur nos suppressions tous les six mois dans notre Rapport de Transparence.

Qu'en est-il des outils comme Botometer et Bot Sentinel ?

Ces outils commencent par une personne qui examine un compte, souvent en utilisant les mêmes informations d’un compte public que celles que vous pouvez voir sur Twitter, et identifie les caractéristiques qui en font un bot. Ainsi, en substance, le nom du compte, le nombre de Tweets, l'emplacement dans la biographie, les hashtags utilisés, etc. 

Ceci est une approche extrêmement limitée.

Comme mentionné, un compte avec un identifiant étrange est souvent lié une personne à qui l'on a automatiquement recommandé ce nom d'utilisateur parce que son vrai nom était déjà utilisé. Un compte sans photo ni localisation peut appartenir à quelqu'un ayant des principes personnels sur la vie privée en ligne, ou dont l'utilisation de Twitter peut l'exposer à des risques, comme un activiste ou un dissident. Vous n'aimez pas ajouter une biographie ou votre localisation à votre compte ? Certains d'entre nous sur Twitter n'aiment pas non plus. Même si tous ces informations publiques sont intégrées dans un système de machine learning pour essayer de prédire de manière probabiliste si un compte est un robot, lorsqu'elles reposent sur l'analyse humaine des informations d'un compte public, ce processus contient des biais dès le départ.

Prenons d’autres exemples de la vie quotidienne pour plus de clarté. Quelqu'un qui Tweete 100 fois par jour avec #SuperBowl pourrait tout simplement être une personne extrêmement engagée qui aime le football américain (ou le déteste si son équipe est mauvaise). Si vous vous souciez profondément de l'environnement et que vous Tweetez à un certain moment politique où vous et vos amis souhaitez avoir un impact, vous n'êtes pas des "bots politiques". Vous êtes des citoyens actifs organisant une campagne organique en ligne pour faire changer les choses dans votre communauté.

Ces outils ne tiennent pas compte de ces cas d'utilisation courante de Twitter, du chemin parcouru et de l'évolution des choses. En conséquence, la nuance peut être perdue. Le résultat ? Des jugements binaires sur qui est un "bot ou pas", qui peuvent réellement empoisonner notre discours public, en particulier lorsqu'ils sont mis en avant par les médias.

Cela ne veut pas dire que nous sommes parfaits. Bien sûr que non. C'est juste que la menace a évolué et que le récit de ce qui se passe réellement est de plus en plus en retard.

Si je constate une activité suspecte, puis-je la signaler ?

Oui. Si vous constatez une activité suspecte, signalez-la nous. Nous ajoutons votre signal aux centaines d'autres que nous utilisons pour aider notre approche technique.

Si nous voulons créer un écosystème de l'information serein, nous avons tous un rôle à jouer. Nous avons maintes fois insisté sur ces points et nous serons plus forts et plus directs dans nos efforts publics à ce moment critique de la conversation publique mondiale. Nous sommes tout à fait conscients de notre responsabilité dans ce domaine. Il s'agit notamment de protéger l'intégrité de notre service, de continuer à empêcher la manipulation de la plateforme et de faire preuve de transparence en partageant régulièrement des mises à jour sur nos progrès et nos apprentissages.

Ce Tweet n'est pas disponible
Ce Tweet n'est pas disponible.

Yoel Roth

‎@yoyoel‎

Head of Site Integrity

Seulement sur Twitter