الشركة

كيف يكافح تويتر السلوكيات المزعجة والنظم الآلية الخبيثة

بواسطة ‎@yoyoel‎ و ‎@delbius‎
الثلاثاء، 26 يونيو 2018

كل يوم، يقصد الناس تويتر لمعرفة ما يحدث في العالم. وفي إطار جهودنا على تحسين صحة المحادثات على تويتر يبرز التركيز على ضمان وصول الناس إلى معلومات موثوقة وذات صلة وذات جودة عالية على تويتر. وللمساعدة في التقدم نحو تحقيق هذا الهدف، قدمنا تدابير جديدة لمكافحة إساءة الاستخدام والمتصيدون، وسياسات جديدة بشأن السلوكيات الباعثة على الكراهية والتطرف العنيف، وجلب التكنولوجيا الجديدة والموظفين لمكافحة السلوكيات المزعجة والإساءة.

 

لكننا ندرك أنه لا يزال هناك الكثير من العمل الذي يتعين القيام به. فالحسابات المزيفة والسلوكيات المزعجة والنظم الآلية الخبيثة تعطل تجربة الجميع على تويتر، وسنواصل جهودنا لتحديد ومنع محاولات التلاعب بالمحادثات على منصتنا.

 

يسعدنا أن نشارك التقدم المحرز مؤخراً والتدابير الجديدة لكيفية تعاملنا مع السلوكيات المزعجة والنظم الآلية الخبيثة والتلاعب بالمنصة.

 

عمليات جديدة لمكافحة النظم الآلية الخبيثة والسلوكيات المزعجة

 

يكافح تويتر السلوكيات المزعجة والأنظمة الآلية الخبيثة من الناحية الاستراتيجية وعلى نطاق واسع. وينصب تركيزنا بشكل متزايد على تحديد الحسابات والسلوكيات الإشكالية بشكل استباقي بدلاً من الانتظار حتى استقبال التقارير.  نركز على تطوير أدوات التعلّم الآلي التي تحدد وتتخذ الإجراءات تلقائياً على شبكات السلوكيات المزعجة أو الحسابات الآلية. وهذا يتيح لنا معالجة محاولات التلاعب بالمحادثات على تويتر على نطاق واسع، عبر اللغات والمناطق الزمنية، دون الاعتماد على التقارير التفاعلية.

 

استثماراتنا في هذا المجال لها تأثير إيجابي:

 

  • في مايو 2018، حددت أنظمتنا واعترضت أكثر من 9.9 مليون حساب محتمل ذو سلوكيات مزعجة أو آلي في الأسبوع. هذا الرقم ارتفع من 6.4 مليون في ديسمبر 2017، و3.2 مليون في سبتمبر.
  • نظراً للتحسينات التكنولوجية والعملية خلال العام الماضي، فإننا الآن بصدد إغلاق حسابات أكثر بنسبة 214٪ لانتهاك سياساتنا بشأن السلوكيات المزعجة على أساس سنوي.
  • في الوقت نفسه، واصل متوسط عدد تقارير السلوكيات المزعجة التي تلقيناها من خلال تدفق تقاريرنا في الانخفاض -من متوسط 25000 في اليوم تقريباً في شهر مارس، إلى 17000 في اليوم تقريباً في شهر مايو. كما شهدنا أيضاً انخفاضاً بنسبة 10٪ في تقارير السلوكيات المزعجة من البحث نتيجة للتغييرات التي أجريناها مؤخراً. ويعني ذلك الانخفاض في التقارير التي تم تلقيها أن الأشخاص يواجهون عدداً أقل من السلوكيات المزعجة في خطهم الزمني، والبحث، وعبر تويتر.
  • كما نتحرك بسرعة أيضاً للحد من السلوكيات المزعجة وإساءة الاستخدام الناشئة عبر واجهات برمجة تطبيقات تويتر. في الربع الأول من عام 2018، علّقنا أكثر من 142000 تطبيق في انتهاك قواعدنا -وهي مسؤولة بشكل جماعي عن أكثر من 130 مليون تغريدة مزعجة منخفضة الجودة. لقد حافظنا على هذه الوتيرة من الإجراءات الاستباقية، وإزالة ما يزيد عن 49000 تطبيق خبيث شهرياً في شهري أبريل ومايو. كما نستخدم بشكل متزايد طرق الكشف الآلية والاستباقية للبحث عن إساءة استخدام منصتنا قبل تأثيرها على تجربة أي شخص على تويتر. وتم تعليق أكثر من نصف التطبيقات التي علَّقناها في الربع الأول في غضون أسبوع واحد من التسجيل، والعديد منها في غضون ساعات.

تخبرنا هذه الأرقام أن أدواتنا تعمل بنجاح: نحن نمنع أو نلتقط المزيد من هذا النشاط بأنفسنا قبل أن تشاهده على تويتر.

 

يُعد التلاعب بالمنصة والسلوكيات المزعجة تحديات لا نزال نواجهها والتي تستمر في التطور، ونسعى جاهدين لنكون أكثر شفافية بشأن عملنا. واليوم، نشارك أربع خطوات جديدة نتخذها لمعالجة هذه الموضوعات:

 

1- الحد من ظهور الحسابات المشبوهة في مقاييس التغريدات والحسابات

 

هناك شكل شائع من السلوكيات المزعجة والأوتوماتيكية يتابع الحسابات بطرق منسقة وجماعية. في كثير من الأحيان، يتم اكتشاف الحسابات التي تعمل في هذه الأنشطة بنجاح بواسطة أدوات الاكتشاف التلقائي الخاصة بنا (ومحوها من مقاييس المستخدمين النشطين) بعد فترة وجيزة من بدء السلوك. لكننا لم نقم بما يكفي في الماضي لجعل تأثير عملياتنا وما اكتشفناه واضحاً. ولهذا السبب، بدأنا في تحديث مقاييس الحساب في الوقت الفعلي تقريباً: على سبيل المثال، سيتم تحديث عدد المتابعين للحساب، أو عدد الإعجابات أو عدة إعادة التغريد التي تلقتها التغريدة، بشكل صحيح عند اتخاذ إجراء بشأن الحسابات.

 

لذلك، إذا وضعنا حساباً في حالة القراءة فقط (حيث لا يمكن للحساب التفاعل مع الآخرين أو التغريد) نظراً لأن أنظمتنا قد اكتشفت أنها تتصرف بطريقة مريبة، فإننا نزيلها الآن من أرقام المتابعين وعدد المشاركات حتى اجتياز اختبار، مثل تأكيد رقم الهاتف. كما نعرض تحذيراً على حسابات القراءة فقط ومنع الحسابات الجديدة من متابعتها للمساعدة في منع التعرض غير المقصود لمحتوى من المحتمل أن يكون خبيثاً. إذا اجتاز الحساب الاختبار، فسيتم استعادة بصمته (على الرغم من أنه قد يستغرق بضع ساعات). إننا نعمل على جعل إجراءات الحماية أكثر شفافية لأي شخص قد يحاول التفاعل مع حساب في حالة القراءة فقط.

 

نتيجة لهذه التحسينات، قد يلاحظ بعض الأشخاص أن مقاييس حسابهم تتغير بانتظام أكثر. ولكننا نعتقد أن ذلك يمثل تحوُّلاً مهماً في كيفية عرضنا لمعلومات التغريدة والحساب لضمان عدم قدرة النظم الآلية الخبيثة على تعزيز مصداقية الحساب بشكلٍ مصطنع نهائياً عن طريق تضخيم مقاييس مثل عدد المتابعين.

 

تابعونا: في الأسابيع المقبلة، سنشارككم المزيد حول الخطوات الإضافية التي نتخذها للحد من تأثير هذا النوع من النشاط على تويتر.

 

 

2- تحسين عملية التسجيل الخاصة بنا

 

لجعل عملية تسجيل حسابات السلوكيات المزعجة فيها أكثر صعوبة، سنطلب أيضاً من الحسابات الجديدة تأكيد عنوان البريد الإلكتروني أو رقم الهاتف عند تسجيل الدخول إلى تويتر. ويعد ذلك تغيير مهم للدفاع ضد الأشخاص الذين يحاولون الاستفادة من انفتاحنا. وسنعمل بشكل وثيق مع مجلس الثقة والأمن لدينا ومع المنظمات غير الحكومية الأخرى الخبيرة لضمان ألا يؤدي هذا التغيير إلى إلحاق الأذى بشخص ما في بيئة عالية المخاطر حيث يكون عدم الكشف عن هويته أمراً مهماً. ابحث عن ذلك حيث سيتم طرحه في وقت لاحق من هذا العام.

 

3- تدقيق الحسابات الحالية بحثاً عن علامات على اشتراكات النظم الآلية

 

نجري أيضاً تدقيقاً لتأمين عدد من الأنظمة القديمة المستخدمة في إنشاء الحسابات. هدفنا هو التأكد من أن كل حساب تم إنشاؤه على تويتر قد اجتاز بعض اختبارات الأمان التلقائية البسيطة المصممة لمنع الاشتراكات الآلية. لقد ساعدتنا الحماية الجديدة التي طورناها نتيجة لعملية التدقيق في منع أكثر من 50000 اشتراك مزعج يومياً.

 

كجزء من عملية التدقيق، نحن بصدد اتخاذ إجراءات لاعتراض عدد كبير من الحسابات المشبوهة المزعجة التي ضبطناها ضمن التحقيق في إساءة استخدام، كجزء قديم من تدفق عملية الاشتراك. هذه الحسابات تتبع ذوي السلوكيات المزعجة في الأساس، ويبدو أنهم تابعوا في الكثير من الحالات حسابات موثقة أو رفيعة المستوى  مقترحة لحسابات أو مجمّعاً أثناء تدفق الاشتراك. نتيجة لهذا الإجراء، قد يشاهد بعض الأشخاص انخفاض أعداد المتابعين؛ عندما نعترض حساباً، يتم إخفاء المتابعة الواردة من هذا الحساب إلى أن يمر مالك الحساب بذلك الاختبار. ولا يعني ذلك أن الحسابات التي يبدو أنها تفقد متابعين فعلت أي شيء خطأ؛ كانوا أهدافاً للحسابات المزعجة التي نزيلها الآن. لقد اتخذنا مؤخراً المزيد من الخطوات للتخلص من المحتوى المزعج والنشاط التلقائي وإغلاق الثغرات التي كانوا قد استغلوها، ونعمل على أن نكون أكثر شفافية بشأن هذه الأنواع من الإجراءات.

 

4- توسيع نظم الكشف عن السلوك الخبيث

 

كما نعمل الآن على أتمتة بعض العمليات التي نرى فيها نشاطًا مريبًا للحساب، مثل عمليات التغريد ذات الحجم الكبير بشكل استثنائي باستخدام نفس الوسم، أو استخدام اسم الحساب نفسه بدون رد من الحساب الذي تشير إليه. تختلف هذه الاختبارات من حيث الكثافة، وقد تشمل على مستوى بسيط إكمال مالك الحساب عملية إعادة إدخال رمز التحقق أو طلب إعادة تعيين كلمة المرور. يتم تمرير الحالات الأكثر تعقيدًا تلقائيًا إلى فريقنا للمراجعة.

 

ما يمكنك فعله

 

هناك خطوات مهمة يمكنك اتخاذها لحماية أمانك على تويتر:

 

 

  • تمكين التوثيق الثنائي. بدلاً من إدخال كلمة مرور فقط لتسجيل الدخول، ستدخل أيضاً رمزاً يتم إرساله إلى هاتفك المحمول. يساعد هذا التحقق في التأكد من أنك وحدك قادر على الوصول إلى حسابك.
  • المراجعة المنتظمة لتطبيقات خارجية. يمكنك مراجعة وإلغاء الوصول إلى التطبيقات من خلال زيارة علامة التبويب "التطبيقات" في إعدادات حسابك على twitter.com
  • لا تعيد استخدام كلمات المرور عبر العديد من المنصات الأساسية أو مواقع الكترونية. استخدم كلمة مرور فريدة لكل حساب من حساباتك.
  • يمكنك أيضاً استخدام مفتاح أمان المعامل الثاني الشامل للتحقق من تسجيل الدخول عند التسجيل على تويتر.

بالإضافة إلى ذلك، إذا كنت تعتقد أنه قد تم اتخاذ إجراء غير صحيح بواسطة أحد أنظمة الكشف عن السلوكيات المزعجة، فيمكنك تقديم التماس لطلب مراجعة حالتك.

 

الخطوات المقبلة

 

من الآن فصاعداً، سيواصل تويتر الاستثمار على نطاق واسع في منهجيتنا تجاه هذه الموضوعات، بما في ذلك الاستفادة من تكنولوجيا التعلم الآلي والشراكات مع الجهات الخارجية. كما نتطلع إلى الإعلان قريباً عن نتائج طلب تقديم مقترحات لمقاييس أبحاث الصحة العامة.

 

ويمكن أن تطفو هذه الأمور على الساحة في جميع أنحاء العالم، خلال أحداث مثل الانتخابات إلى الأحداث الطارئة والمحادثات العامة رفيعة المستوى. كما ذكرنا في الإعلانات الأخيرة، فإن الصحة العامة للمحادثات على تويتر تعد أحد المعايير الهامة التي نقيس من خلالها نجاحنا في هذه المجالات.

هذه التغريدة غير متاحة
هذه التغريدة غير متاحة.