Product

How Twitter is fighting spam and malicious automation

Every day, people come to Twitter to see what’s happening. One of the most important parts of our focus on improving the health of conversations on Twitter is ensuring people have access to credible, relevant, and high-quality information on Twitter. To help move toward this goal, we’ve introduced new measures to fight abuse and trollsnew policies on hateful conduct and violent extremism, and are bringing in new technology and staff to fight spam and abuse.

But we know there’s still a lot of work to be done. Inauthentic accounts, spam, and malicious automation disrupt everyone’s experience on Twitter, and we will never be done with our efforts to identify and prevent attempts to manipulate conversations on our platform.

We’re excited to share some recent progress and new measures for how we handle spam, malicious automation, and platform manipulation.

ट्विटर स्पैम और दुर्भावनापूर्ण आटोमेशन से कैसे संघर्ष कर रहा है?

प्रतिदिन, लोग ट्विटर पर नवीनतम जानकारी लेने के लिए आते हैं। ट्विटर पर होने वाले संवाद की गुणवत्ता में सुधार पर केंद्रित हमारे महत्वपूर्ण कदमों में से एक यह सुनिश्चित करना है कि लोगों को ट्विटर पर विश्वसनीय, प्रासंगिक व उच्च गुणवत्ता वाली जानकारी मिल सके। इस लक्ष्य की तरफ आगे बढ़ने के लिए, हमने अभद्रता और ट्रोल्स से लड़ने के लिए नए उपाय किए हैं, घृणात्मक व्यवहार तथा हिंसक अतिवाद पर नई नीतियाँ बनाई हैं, और स्पैम तथा अभद्रता से संघर्ष के लिए नई प्रौद्योगिकी व कर्मचारी ला रहे हैं।

लेकिन हम जानते हैं कि अभी बहुत सा काम किया जाना बाकी है। अनाधिकृत एकाऊंट्स, स्पैम और दुर्भावनापूर्ण आटोमेशन ट्विटर पर हर व्यक्ति के अनुभव को बाधित करता है और हम कभी भी अपने इस मंच पर संवाद को तोड़ने मरोड़ने के प्रयासों की पहचान करने और उन्हें रोकने की कोशिशों में कोई कसर नहीं छोड़ेंगे। स्पैम दुर्भावनापूर्ण आटोमेशन व इस मंच के दुरूपयोग से निपटने के लिए हमने जो प्रगति की है और नये उपाय किए हैं, उनके बारे में आपको बताते हुए हम उत्साहित हैं।

New processes for fighting malicious automation and spam

Twitter fights spam and malicious automation strategically and at scale. Our focus is increasingly on proactively identifying problematic accounts and behaviour rather than waiting until we receive a report. We focus on developing machine learning tools that identify and take action on networks of spammy or automated accounts automatically. This lets us tackle attempts to manipulate conversations on Twitter at scale, across languages and time zones, without relying on reactive reports.

दुर्भावनापूर्ण आटोमेशन व स्पैम से निपटने की नई प्रक्रियाविधियाँ

ट्विटर स्पैम और दुर्भावनापूर्ण आटोमेशन के साथ रणनीतिक तरीके व बड़े स्तर पर संघर्ष करता है। हमारा लक्ष्य, रिपोर्ट प्रस्तुत करने की प्रतीक्षा किए बिना, पूर्वसक्रियता के साथ समस्या उत्पन्न करने वाले एकाऊंट्स व व्यवहार की पहचान करने पर ध्यान केंद्रित करना है। हम ऐसे मशीन लर्निंग टूल्स के विकास पर ध्यान केंद्रित करते हैं जो स्पैमी या आटोमेटिड एकाऊंट्स के नेटवर्क्स की पहचान करते हैं और उन पर कार्यवाही करते हैं। इससे हमंे व्यापक स्तर पर ट्विटर पर अनेक भाषाओं व समय क्षेत्रों के बावजूद, प्रतिक्रियात्मक रिपोर्टों पर विश्वास किए बिना सभी तरह के संवादों में हेर-फेर के प्रयासों से निपटने में मदद करते हैं।

Our investments in this space are having a positive impact:

  • In May 2018, our systems identified and challenged more than 9.9 million potentially spammy or automated accounts per week. That’s up from 6.4 million in December 2017, and 3.2 million in September.

इस क्षेत्र में हमारे निवेश सकारात्मक प्रभाव दिखा रहे हैं:

  • मई 2018 में हमारे सिस्टम्स में प्रति सप्ताह 9.9 मिलियन से अधिक संभावित स्पैमी या आटोमेटिड एकाऊंट्स की पहचान करके उन्हें चुनौती दी। यह दिसम्बर 2017 में 6.4 मिलियन और सितम्बर में 3.2 मिलियन से काफी अधिक है।

 

 

This Tweet is unavailable
This Tweet is unavailable.
  • Due to technology and process improvements during the past year, we are now removing 214% more accounts for violating our spam policies on a year-on-year basis.
  • At the same time, the average number of spam reports we received through our reporting flow continued to drop — from an average of approximately 25,000 per day in March, to approximately 17,000 per day in May. We’ve also seen a 10% drop in spam reports from search as a result of our recent changes. These decreases in reports received means people are encountering less spam in their timeline, search, and across the Twitter product.
  • We’re also moving rapidly to curb spam and abuse originating via Twitter’s APIs. In Q1 2018, we suspended more than 142,000 applications in violation of our rules — collectively responsible for more than 130 million low-quality, spammy Tweets. We’ve maintained this pace of proactive action, removing an average of more than 49,000 malicious applications per month in April and May. We are increasingly using automated and proactive detection methods to find misuses of our platform before they impact anyone’s experience. More than half of the applications we suspended in Q1 were suspended within one week of registration, many within hours.

  • पिछले वर्ष के दौरान टेक्नोलॉजी और प्रक्रिया सुधार के कारण, हम साल-दर-साल आधार पर अपनी स्पैम नीतियों का उल्लंघन करने पर 214% अधिक एकाऊंट्स को हटा रहे हैं।
  • साथ ही साथ, अपने रिपोर्टिंग प्रवाह के माध्यम से मिलने वाली स्पैम रिपोर्टों की औसत संख्या लगातार गिरती रही है - यह मार्च में औसतन 25,000 प्रति माह से मई में लगभग 17,000 प्रति दिन हो गई। अपने हाल ही में किए गए बदलावों के कारण, हमने सर्व से मिलने वाली स्पैम रिपोर्टों में 10% की गिरावट देखी है। रिपोर्ट्स में इस तरह की कमी का अर्थ यह है कि लोग अपनी टाइमलाइन, सर्च और पूरे ट्विटर प्रोडक्ट में कम स्पैम प्राप्त कर रहे हैं।
  • हम ट्विटर के ARI’s s के माध्यम से स्पैम और अभद्रता पर लगाम लगाने के लिए तेज़ी से आगे बढ़ रहे हैं। 2018 की पहली तिमाही (Q1) में, हमने अपने नियमों में उल्लंघन के कारण 142,000 से अधिक एप्‍लीकेशन्‍स को निलम्बित किया- जो कुल मिला कर 130 मिलियन निम्न-स्तरीय, स्पैमी ट्वीट्स के लिए ज़िम्मेदार थीं। हमने अप्रैल और मई में 49,000 से अधिक दुर्भावनापूर्ण एप्‍लीकेशन्‍स प्रति माह को हटाते हुए, पूर्वसक्रियता कार्यवाही की इस गति को बनाए रखा है। हम किसी के अनुभव पर प्रभाव डालने से पहले, अपने प्लेटफार्म के दुरूपयोगों को खोजने के लिए तेज़ी से आटोमेटिड और प्रोएक्टिव पहचान तरीकों का प्रयोग कर रहे हैं। पहली तिमाही (Q1) में हमने आधे से अधिक एप्‍लीकेशन्‍स को रजिस्ट्रेशन के एक सप्ताह के अंदर निलम्बित कर दिया और कुछ को तो केवल कुछ ही घंटों में निलम्बित कर दिया गया।

This Tweet is unavailable
This Tweet is unavailable.

These numbers tell us that our tools are working: We’re preventing or catching more of this activity ourselves before you ever see it on Twitter.

Platform manipulation and spam are challenges we continue to face and which continue to evolve, and we’re striving to be more transparent with you about our work. Today, we’re sharing four new steps we’re taking to address these issues:

ये आंकड़े हमें बताते हैं कि हमारे टूल्स काम कर रहे हैं: हम ट्विटर पर आपके देखने से पहले ही इनमें से अधिकांश गतिविधियों को रोक या पकड़ लेते हैं।

हम लगातार प्लेटफार्म में हेरफेर और स्पैम जैसी चुनौतियों के जारी रहने और समाने आने का सामना करते हैं और हम आने काम के बारे में आपके साथ पारदर्शी रहने की कोशिश करते हैं। आज हम आपको इन समस्याओं के समाधन के लिए उठाए जाने वाले चार नए कदमों की जानकारी आपके साथ  सांझा कर रहे हैं:

1) Reducing the visibility of suspicious accounts in Tweet and account metrics

A common form of spammy and automated behaviour is following accounts in coordinated, bulk ways. Often accounts engaged in these activities are successfully caught by our automated detection tools (and removed from our active user metrics) shortly after the behaviour begins. But we haven’t done enough in the past to make the impact of our detections and actions clear. That’s why we’ve started updating account metrics in near-real time: for example, the number of followers an account has, or the number of likes or Retweets a Tweet receives, will be correctly updated when we take action on accounts.

So, if we put an account into a read-only state (where the account can’t engage with others or Tweet) because our systems have detected it behaving suspiciously, we now remove it from follower figures and engagement counts until it passes a challenge, like confirming a phone number. We also display a warning on read-only accounts and prevent new accounts from following them to help prevent inadvertent exposure to potentially malicious content. If the account passes the challenge, its footprint will be restored (though it may take a few hours). We are working to make these protections more transparent to anyone who may try to interact with an account in this read-only state.

As a result of these improvements, some people may notice their own account metrics change more regularly. But we think this is an important shift in how we display Tweet and account information to ensure that malicious actors aren’t able to artificially boost an account’s credibility permanently by inflating metrics like the number of followers.

Stay tuned: In the coming weeks, we will have more to share about additional steps we’re taking to reduce the impact of this sort of activity on Twitter.

1) ट्वीट और एकाऊंट आंकड़ों में संदेहजनक एकाऊंट्स की द़श्‍यता को कम करना

स्पैमी और आटोमेटिड व्यवहार का सामान्य रूप समन्वित, विस्तृत तरीकों से एकाऊंट्स पर नज़र रखना है। आमतौर पर इन गतिविधियों में संलिप्त एकाऊंट्स हमारे आटोमेटिड डिटेक्‍शन टूल्स द्वारा पकड़ लिए जाते हैं तथा व्यवहार शुरू होने से पहले (हमारे एक्टिव यूज़र मीट्रिक्स में से हटा दिए जाते हैं)। लेकिन अतीत में हमने पहचानने और कार्यवाही करने के प्रभाव के बारे पर्याप्त कार्य नहीं किया है।

इसीलिए हमने निकट-वास्तविक समय में एकाऊंट्स मैट्रिक्स को अपडेट करने की शुरूआत की है। उदाहरण के लिए, किसी एकाऊंट में फालेाअर्स की संख्या या ट्वीट को मिलने वाले लाइक्स या रिट्वीट्स को एकाऊंट्स पर कोई भी कार्यवाही करते समय सही तरीके से अपडेट किया जाएगा।

इसलिए, यदि हम किसी एकाऊंट को संदेहजनक तरीके से चलते हुए पहचाने जाने पर, रीड-ऑनली स्टेट (जहां एकाऊंट अन्य लोगों या किसी ट्वीट के साथ जुड़ नहीं सकता) में डालते हैं, तो हम उसे फालोअर आंकड़ों और एंगेजमेंट एकाऊंट्स से तब तक हटा देते हैं जब तक कि यह किसी चुनौती को पूरा न कर सके, जैसे कि फोन नंबर की पुष्टि होना। हम रीड-ऑनली एकाऊंट्स पर एक चेतावनी भी प्रदर्शित करते हैं और नए एकाऊंट्स करो उन्हें फालो करने से रोकते हैं ताकि संभावित दुर्भावनापूर्ण कंटेंट को सामने आने से रोका जा सके। यदि एकाऊंट चुनौती पर खरा उतरता है, तो इसक फुटप्रिंट्स को रिस्टोर कर दिया जाएगा (हालांकि इसमें कुछ घंटे लग सकते हैं)। हम इन रोकथामों को उन सभी के लिए अधिक पारदर्शी बनाने के लिए काम कर रहे हैं जो इस रीड-ऑनली स्थिति में किसी एकाऊंट के साथ संवाद करने की कोशिश करते हैं।

इस तरह के सुधारों के परिणामस्वरूप, कुछ लोग इस बात पर ध्यान दे सकते हैं कि उनके स्वयं के एकाऊंट आंकड़े अधिक नियमितता के साथ बदलते हैं। लेकिन हमारा सोचना है कि यह इस बात में महत्वपूर्ण बदलाव है कि हम ट्वीट और एकाऊंट जानकारी को इस तरह प्रदर्शित करते हैं कि सह सुनिश्चित हो सके कि दुर्भावनापूर्ण कलाकार फालोअर्स की संख्या जैसे आंकड़ों को बढ़ा कर किसी एकाऊंट की विष्वसनीयता को स्थाई स्तर पर कृत्रिम रूप से न बढ़ा सकें।

हमारे साथ जुड़े रहें: आगामी सप्ताहों में, हम आपको उन अतिरिक्त कदमों के बारे में बताएंगे जिनका उपयोग हम ट्विटर पर इस तरह की गतिविधि की छंटाई के प्रभाव को कम करने के लिए कर रहे हैं।

2) Improving our sign-up process

To make it harder to register spam accounts, we’re also going to require new accounts to confirm either an email address or phone number when they sign up to Twitter. This is an important change to defend against people who try to take advantage of our openness. We will be working closely with our Trust and Safety Council and other expert NGOs to ensure this change does not hurt someone in a high-risk environment where anonymity is important. Look for this to roll out later this year.

2) अपनी साइनअप प्रक्रिया में सुधार करना

स्पैम एकाऊंट्स को रजिस्टर करने को और कठिन बनाने के लिए, हम नए एकाऊंट की पुष्टि करने के लिए, ट्विटर पर साइन अप करते समय ईमेल पते या फोन नंबर की आवश्‍यकता भी पूरी कराएंगे। यह उन लोगों के खिलाफ रोकथाम की दिशा में एक महत्वपूर्ण कदम है जो हमारे खुलेपन का लाभ उठाने की कोशिश करते हैं। हम अपनी ट्रस्ट एंड सेफ्टी कौंसिल तथा अन्य विशेषज्ञ एनजीओ’ज़ के साथ निकटता से काम करके सुनिश्चित करेंगे कि इस बदलाव से उच्च जोखिम वातावरण में रहने वाले किसी व्यक्ति को नुक्सान न हो जिनकी गोपनीयता महत्वपूर्ण है। इस वर्ष के अगले हिस्से में इस के शुरू होने की संभावना है।

3) Auditing existing accounts for signs of automated sign-up

We’re also conducting an audit to secure a number of legacy systems used to create accounts. Our goal is to ensure that every account created on Twitter has passed some simple, automatic security checks designed to prevent automated signups. The new protections we’ve developed as a result of this audit have already helped us prevent more than 50,000 spammy sign-ups per day.

As part of this audit, we’re imminently taking action to challenge a large number of suspected spam accounts that we caught as part of an investigation into misuse of an old part of the sign-up flow. These accounts are primarily follow spammers, who in many cases appear to have automatically or bulk followed verified or other high-profile accounts suggested to new accounts during our signup flow. As a result of this action, some people may see their follower counts drop; when we challenge an account, follows originating from that account are hidden until the account owner passes that challenge. This does not mean accounts appearing to lose followers did anything wrong; they were the targets of spam that we are now cleaning up. We've recently been taking more steps to clean up spam and automated activity and close the loopholes they'd exploited, and are working to be more transparent about these kinds of actions.

3) आटोमेटिड साइनअप के संकेतों के लिए मौजूदा एकाऊंट्स की आडिटिंग

हम एकाऊंट्स बनाने के लिए विरासती व्यवस्था की संख्या को सुरक्षित करने के लिए एक आडिट कर रहे हैं। हमारा लक्ष्य यह सुनिश्चित करना है कि ट्विटर पर बनाया गया हर एकाऊंट किसी सरल, आटोमेटिक सुरक्षा जांचों से गुज़रे जो आटोमेटिड साइनअप्स को रोकने के अनुसार बनाया गग गया हो। इस आडिट के परिणामस्वरूप हमारे द्वारा विकसित नई सुरक्षाएं पहले से ही हमें 50,गया है। इस आडिट के परिणामस्वरूप हमारे द्वारा विकसित नई सुरक्षाएं पहले से ही हमें 50,000 स्पैमी साइनअप्स रोकने में मदद कर चुकी हैं।

इस आडिट के एक हिस्से के रूप में हम बड़ी संख्या में संदेहजनक स्पैम एकाऊंट्स को चुनौती देने के लिए जल्दी ही कार्यवाही कर रहे हैं जिसके अंतर्गत हमने साइनअप प्रवाह के पुराने हिस्से के दुरूपयोग को जांच में पकड़ा है। ये एकाऊंट्स मुख्य रूप से स्पैमर्स को फालो करते हैं जो कई मामलों में अमारे साइनअप प्रवाह के दौरान स्वतः या भारी संख्या में फानो किए जाने वाले प्रमाणित या अन्य हाई प्रोफाइल एकाऊंट्स करे नए एकाऊंट्स में ले जाते प्रतीत होते हैं। इस कदम के परिणामस्वरूप लोग अपने फालोअर्स की संख्या में कमी होते देख सकते हैं जब हम किसी एकाऊंट को चुनौती देते हैं तो उस एकाऊंट से उत्पन्न फालोइंग तब तक छिपी रहती है जब तक एकाऊंट धारक उस चुनौती को पूरा नहीं कर लेता है। इस का अर्थ यह नहीं है कि फालोअर्स की संख्या में कमी वाले एकाऊंट्स ने कुछ गलत किया है। वे स्पैम्स का निशाना बने हुए थे जिसे अब हम साफ कर रहे हैं। हमने हाल ही में स्पैम की सफाई और आटोमेटिड गतिविधि के लिए कुछ और कदम उठाए हैं और उन्होने जिन कमियों का फायदा उठाया था उन्हें बंद किया है और हम इस तरह की गतिविधियों के बारे में और अधिक पारर्शी बनने के लिए काम कर रहे हैं।

4) Expansion of our malicious behaviour detection systems

We’re also now automating some processes where we see suspicious account activity, like exceptionally high-volume Tweeting with the same hashtag, or using the same @username without a reply from the account you’re mentioning. These tests vary in intensity, and at a simple level may involve the account owner completing a simple reCAPTCHA process or a password reset request. More complex cases are automatically passed to our team for review.

4) हमारे दुर्भावनापूर्ण व्यवहार पहचान सिस्टम्स का विस्तार

अब हम कुछ ऐसी प्रक्रियाविधियों को आटोमेट कर रहे हैं जिनमें हम संदेहास्पद एकाऊंट गतिविधि देखते हैं जैसे एक ही हैशटैग के साथ काफी बड़ी अनपेक्षित संख्या में ट्वीटिंग करना या आपके द्वारा बताए जाने वाले एकाऊंट से उत्तर पाए बिना एक ही @handle  का प्रयोग करना। ये परीक्षण गहनता में अलग-अलग हो सकते हैं और एक साधारण स्तर पर इनमें एकाऊंट धारक द्वारा सरल कैप्चा प्रक्रिया या पासवर्ड रिसैट रिक्वेस्ट को शामिल किया जा सकता है। अधिक जटिल मामले हमारी टीम के पास समीक्षा के लिए स्वतः ही आ जाते हैं।

This Tweet is unavailable
This Tweet is unavailable.

What you can do

There are important steps you can take to protect your security on Twitter:

  • Enable two-factor authentication. Instead of only entering a password to log in, you’ll also enter a code which is sent to your mobile phone. This verification helps make sure that you, and only you, can access your account.
  • Regularly review any third-party applications. You can review and revoke access for applications by visiting the Apps tab in your account settings on twitter.com.
  • Don’t reuse your passwords across multiple platforms or websites. Have a unique password for each of your accounts.
  • You can also use a FIDO Universal 2nd Factor (U2F) security key for login verification when signing into Twitter.

आप क्या कर सकते हैं?

ट्विटर पर अपनी सुरक्षा को बनाए रखने के लिए आप निम्‍नलिखित महत्वपूर्ण कदम उठा सकते हैं:

  • दो-तरह की अधिकृतता को सक्षम बनाएं। लॉगइन करने के लिए केवल पासवर्ड डालने की बजाय, आपको वह कोड भी डालना होगा जो आपके मोबाइल नंबर पर भेजा जाएगा। यह प्रमाणीकरण यह सुनिश्चित करने में मदद करेगा कि केवल आप ही अपने एकाऊंट को एक्‍सेस कर सकें।
  • किसी भी तृतीय पक्ष एप्लीकेशन की नियमित समीक्षा करें। आप twitter.com पर अपने एकाऊट की सेटिंग्स में एप्स टैब पर जा कर एप्‍लीकेशन की समीक्षा कर सकते हैं और एक्सेस को फिर से सक्रिय कर सकते हैं।
  • अपने पासवर्ड को अनेक प्लेटफार्म्स या वेबसाइट्स पर फिर से प्रयोग न करें। अपने हर एकाऊंट के लिए अलग पासवर्ड रखें।
  • आप ट्विटर पर साइन करते समय लॉगइन वेरिफिकेशन के लिए FIDO Universal 2nd Factor (U2F) सिक्यूरिटी की का प्रयोग भी कर सकते हैं।
This Tweet is unavailable
This Tweet is unavailable.
This Tweet is unavailable.

Additionally, if you believe you may have been incorrectly actioned by one of our automated spam detection systems, you can use our appeals process to request a review of your case.

Next steps

Going forward, Twitter is continuing to invest across the board in our approach to these issues, including leveraging machine learning technology and partnerships with third parties. We also look forward to soon announcing the results of our request for proposals for public health metrics research.

These issues are felt around the world, from elections to emergency events and high-profile public conversations. As we have stated in recent announcements, the public health of the conversation on Twitter is a critical metric by which we will measure our success in these areas.

यह ट्वीट अनुपलब्ध है।

 

इसके अलावा, यदि आप को लगता है कि आप पर हमारे किसी आटोमेटिड स्पैम डिटेक्‍शन सिस्टम द्वारा गलत कार्यवाही की गई है, तो आप अपने मामले की समीक्षा के निवेदन के लिए हमारे appeals process का प्रयोग कर सकते हैं।

अगले कदम

आगे बढ़ते हुए ट्विटर इन मुद्दों में निवेश करना जारी रख रहा है, जिनमें मशीन लर्निंग टेक्नोलॉजी और तृतीय पक्षों के साथ भागीदारी का लाभ उठाना शामिल है। हम सार्वजनिक स्वास्थ्य मीट्रिक्स अनुसंधान के लिए अपने Request for Proposals के परिणाम भी जल्दी ही घोषित करने वाले हैं।

 

ये मुद्दे पूरी दुनिया में महसूस किए जा रहे हैं, जिनमें चुनावों से ले कर आपातकालीन आयोजन व हाई-प्रोफाइल सार्वजनिक बातचीत तक शामिल है। जैसा कि हमने हाल ही की घोषणाओं में कहा है, ट्विटर पर बातचीत का सार्वजनिक स्तर या स्वास्थ्य एक ऐसा महत्वपूर्ण आंकलन है जिसका मूल्यांकन हम इन क्षेत्रों में अपनी सफलता से करेंगे।

 

 

This Tweet is unavailable
This Tweet is unavailable.