An update on our efforts to combat violent extremism

By
Thursday, 18 August 2016

Earlier this year, we announced we had suspended more than 125,000 accounts since mid-2015 for violating our longtime prohibition on violent threats and the promotion of terrorism and shared the steps we are taking as a company to combat this content. Since that announcement, the world has witnessed a further wave of deadly, abhorrent terror attacks across the globe. We strongly condemn these acts and remain committed to eliminating the promotion of violence or terrorism on our platform.

While our work is not done, today we are announcing that we have suspended an additional 235,000 accounts for violating our policies related to promotion of terrorism in the six months since our February 2016 post. This brings our overall number of suspensions to 360,000 since the middle of 2015. As noted by numerous third parties, our efforts continue to drive meaningful results, including a significant shift in this type of activity off of Twitter.

Daily suspensions are up over 80 percent since last year, with spikes in suspensions immediately following terrorist attacks. Our response time for suspending reported accounts, the amount of time these accounts are on Twitter, and the number of followers they accumulate have all decreased dramatically. We have also made progress in disrupting the ability of those suspended to immediately return to the platform. We have expanded the teams that review reports around the clock, along with their tools and language capabilities. We also collaborate with other social platforms, sharing information and best practices for identifying terrorist content.

As we mentioned in February, and other companies and experts have also noted, there is no one “magic algorithm” for identifying terrorist content on the Internet. But we continue to utilize other forms of technology, like proprietary spam-fighting tools, to supplement reports from our users and help identify repeat account abuse. In fact, over the past six months these tools have helped us to automatically identify more than one third of the accounts we ultimately suspended for promoting terrorism. We will continue to invest in both technology and other resources in the future and you can expect us to update our progress regularly as part of our Transparency Report beginning in 2017.

In addition to these account suspensions, our global Public Policy team has expanded its partnerships with organizations working to counter violent extremism (CVE) online. We work with respected organizations such as Parle-moi d’Islam (France), Imams Online (UK), Wahid Foundation (Indonesia), The Sawab Center (UAE), and True Islam (US) to empower credible non-governmental voices against violent extremism. Over the last six months, we also attended government-convened summits on CVE hosted by the French Interior Ministry and the Indonesian National Counterterrorism Agency.

Finally, we continue to work with law enforcement entities seeking assistance with investigations to prevent or prosecute terror attacks. Twitter responds to valid legal process issued in compliance with applicable law as explained in our Law Enforcement Guidelines, and we report on these government requests (in aggregate) twice a year, in our Transparency Report.

Arabic Translation

مع بدايه العام الجاري، قد اعلانا إننا قمنا بتعليق أكثر من ١٢٥،٠٠٠ حساب منذ منتصف ٢٠١٥ لانتهاكها حظر التهديدات العنيفة والحث علي الإرهاب وتم الافصاح عن تلك الخطوات التي نتخذها كشركة لمكافحة هذا المحتوى. ومنذ ذلك الإعلان، فقد شهد العالم موجه أخرى قاتلة من الهجمات الإرهابية البغيضة في جميع أنحاء العالم. إننا ندين بشدة هذه الأعمال وسنظل ملتزمين بالقضاء على الترويج للعنف أو الإرهاب على منصتنا .

في حين انه لم يتم الانتهاء من العمل لدينا بعد، فاليوم نود أن نعلن أننا قد قمنا بتعليق٢٣٥،٠٠٠ حساب إضافياً يمثلوا انتهاك لسياساتنا المتعلقة بالترويج للإرهاب في الأشهر الستة المنقضيه منذ إعلان فبراير ٢٠١٦. وبهذا فقد يصل مجموع الحسابات التي تم تعليقها الي ٣٦٠،٠٠٠ حساب منذ منتصف ٢٠١٥. كما لاحظ العديد من الأطراف، فان جهودنا تتواصل لتحقيق نتائج فاعله ذات مغزى، بما في ذلك تحولاً ملحوظاً في هذا النوع من النشاط على منصه تويتر.

فقد تخطى معدل الحسابات التي يتم تعليقها يومياً نسبة ال ٨٠ بالمئه مقارنة بالعام الماضي، مع زيادة ملحوظة خاصة بعد الهجمات الإرهابية مباشرة. بالأضافة الي ذلك فأن كل من وقت الاستجابة لتعليق الحسابات المبلغ عنها، و مدة تواجد تلك الحسابات على منصه تويتر، و مجموع المتابعيين لها٬ قد شهدوا جميعاً انخفاضاً كبيراً. كما أننا أيضاً أحرزنا تقدماً في تعطيل قدرة تلك الحسابات المعلقة على العودة فوراً الى المنصة. أيضاً قد قمنا بتوسيع الفرق التي تستعرض التقارير على مدار الساعة ، جنباً إلى جنب مع تعزيز الأدوات المستخدمه والقدرات اللغوية. كما نتعاون أيضاً مع المنصات الاجتماعية الأخرى، من تبادل المعلومات وأفضل الممارسات من أجل تحديد المحتوى الإرهابي .

كما ذكرنا فبراير الماضي، وذكر العديد من الشركات والخبراء، انه لا يوجد ” خوارزمية سحرية ” لتحديد المحتوى الإرهابي على شبكة الإنترنت. بالرغم من ذلك فنحن مستمرون في استخدام وسائل تكنولوجيه متعددة، مثل أدوات مكافحة البريد التطفلي (spam-fighting tools)، لمتابعه تقارير المستخدمين والمساعدة على التصدي لفتح حسابات متكررة. في الواقع، على مدى الأشهر الستة الماضية ساعدت هذه الأدوات على التعرف تلقائياً على أكثر من ثلث الحسابات التي تم تعليقها لنشرها محتوى لتعزيز الإرهاب. وسنستمر في الاستثمار في كل من التكنولوجيا والموارد الأخرى، ويمكنك متابعه تحديثاً منتظماً منا كجزء من تقرير الشفافية مع بدايه عام ٢٠١٧.

بالإضافة إلى تعليق تلك الحسابات، فان فريق السياسات العامة يقوم بتعزيز الشراكات مع المنظمات العاملة في مجال مكافحة التطرف العنيف (Counter Violent Extremism) على الإنترنت. فنعمل مع منظمات مثل: Parle-moi d’Islam (فرنسا)، Imams Online (المملكة المتحدة)، Wahid Foundation (اندونيسبا)، The Sawab Center (الامارات العربية المتحدة)، True Islam (الولايات المتحدة الامريكية) وذلك من اجل تمكين الأصوات غير الحكومية ذات المصداقية ضد التطرف العنيف. على مدى الأشهر الستة الماضية، قمنا بالمشراكه والحضور بالقمم الحكوميه لمكافحة التطرف العنيف ( Counter Violent Extremism ) باستضافه كل من وزارة الداخلية الفرنسية و وكالة الوطني لمكافحة الإرهاب الإندونيسية .

وأخيراً، فإننا نواصل العمل مع هيئات إنفاذ القانون لتقديم المساعدة في التحقيقات ومنع الهجمات الإرهابية ومحاكمة مرتكبيها. تويتر يستجيب للاليات القانونية السارية المفعول والصادرة وفقا للقانون المعمول به كما هو موضح في إرشادات إنفاذ القانون لدينا، ونحن نصدر تقريرا عن هذه الطلبات الحكومية (في المجمل) مرتين في السنة ، بتقرير الشفافية.