Perusahaan

Upaya Twitter Memberantas Akun Spam dan Otomatisasi Berbahaya

Banyak orang mengunjungi Twitter setiap harinya untuk mencari tahu tentang apa yang sedang terjadi. Salah satu hal yang sangat penting bagi kami dalam upaya meningkatkan kualitas percakapan di Twitter adalah dengan memastikan bahwa setiap orang mempunyai akses terhadap informasi yang terpercaya, relevan, dan berkualitas di Twitter. Untuk membantu mencapai tujuan tersebut, kami telah memperkenalkan langkah-langkah baru untuk memerangi penyalahgunaan dan trolls, kebijakan baru mengenai ujaran kebencian dan tindak kekerasan, serta menggunakan teknologi baru dan menambah sumber daya untuk memerangi spam dan penyalahgunaan.

Namun, kami sadar bahwa masih banyak pekerjaan yang harus dilakukan. Akun-akun palsu, spam dan bot telah mengganggu kenyamanan semua pengguna Twitter, dan kami tentunya tidak akan pernah berhenti berupaya untuk mengidentifikasi dan mencegah upaya memanipulasi percakapan di platform kami.

Kami senang untuk menginformasikan kepada Anda beberapa kemajuan terkini dan langkah-langkah baru untuk menangani spam, bot berbahaya, dan manipulasi platform.

Tweet ini tidak tersedia
Tweet ini tidak tersedia.

Proses Baru untuk Memberantas Bot dan Spam Berbahaya

Twitter memerangi spam dan bot berbahaya secara strategis dan dalam skala besar. Kami semakin mengutamakan sikap proaktif untuk mengidentifikasi akun dan perilaku bermasalah ketimbang menunggu sampai kami menerima laporan. Kami berfokus pada pengembangan perangkat machine learning yang mampu mengidentifikasi dan mengatasi jaringan akun yang termasuk ke dalam kategori spam dan bot secara otomatis. Ini memungkinkan kami untuk mengatasi upaya memanipulasi percakapan di Twitter dalam skala besar, lintas bahasa dan zona waktu, tanpa mengandalkan laporan semata.

Tweet ini tidak tersedia
Tweet ini tidak tersedia.

Tweet ini tidak tersedia
Tweet ini tidak tersedia.

Investasi kami dalam hal ini terbukti memberikan dampak positif:

  • Pada Mei 2018, sistem kami mengidentifikasi dan melakukan tindakan pada lebih dari 9,9 juta akun spam atau bot per minggunya. Angka itu naik dari 6,4 juta pada Desember 2017 dan 3,2 juta pada September di tahun yang sama.
Tweet ini tidak tersedia
Tweet ini tidak tersedia.

Tweet ini tidak tersedia
Tweet ini tidak tersedia.
  • Karena peningkatan teknologi dan proses selama setahun terakhir, kami sekarang bisa menghapus 214% lebih banyak akun yang melanggar kebijakan kami mengenai spam dari tahun ke tahun.
  • Pada waktu yang bersamaan, jumlah rata-rata angka laporan terkait spam yang diterima melalui sistem pelaporan kami terus menurun - dari rata-rata 25,000 per hari pada bulan Maret menjadi sekitar 17,000 per harinya pada bulan Mei. Kami juga melihat penurunan sebanyak 10% pada laporan terkait spam melalui penelusuran sebagai hasil dari perubahan terbaru ini. Penurunan dalam jumlah laporan yang diterima menggambarkan; bahwa pengguna menghadapi lebih sedikit spam di linimasa, fitur penelusuran, dan seluruh produk Twitter.
  • Kami juga bergerak cepat untuk membatasi spam dan penyalahgunaan yang berasal dari API (Application Programming Interfaces) Twitter. Pada Q1 2018, kami telah menangguhkan lebih dari 142,000 permohonan yang melanggar peraturan kami - bertanggung jawab secara kolektif untuk lebih dari 130 juta cuitan yang berkualitas rendah dan bersifat spam. Kami terus mempertahankan langkah proaktif ini dengan menghapus rata-rata lebih dari 49.000 permohonan terkait akun berbahaya setiap bulannya pada bulan April dan Mei. Metode proaktif dan otomatis ini akan terus digunakan untuk menemukan penyalahgunaan pada platform sebelum memberikan dampak yang kurang menyenangkan terhadap pengalaman para pengguna. Lebih dari setengah permohonan yang kami tangguhkan pada Q1 dilakukan dalam waktu satu minggu setelah pendaftaran, bahkan banyak di antaranya dilakukan dalam hitungan jam.
Tweet ini tidak tersedia
Tweet ini tidak tersedia.

Angka-angka ini menunjukkan, bahwa alat kami bekerja: Kami mencegah atau menangkap lebih banyak kegiatan seperti ini sebelum Anda melihatnya di Twitter.

Tweet ini tidak tersedia
Tweet ini tidak tersedia.

Tweet ini tidak tersedia
Tweet ini tidak tersedia.

Tweet ini tidak tersedia
Tweet ini tidak tersedia.

Manipulasi platform dan spam adalah tantangan yang terus kami hadapi dan terus berkembang, dan kami berusaha untuk lebih transparan tentang usaha-usaha kami mengatasinya. Berikut adalah empat langkah baru yang diambil Twitter untuk mengatasi masalah ini:

1 - Mengurangi visibilitas akun yang mencurigakan berdasarkan metrik cuitan dan akun tersebut

Bentuk umum dari perilaku spam dan bot adalah mengikuti akun dengan cara yang terkoordinasi dan massal. Seringkali akun yang terasosiasi dengan aktivitas semacam ini ditangkap secara baik oleh sistem pendeteksi otomatis kami (dan dihapus dari metrik pengguna aktif kami) langsung setelah perilaku tersebut muncul. Namun kami belum melakukan hal yang cukup di masa lampau dalam memberikan dampak yang jelas dari pendeteksian dan aksi kami. Maka dari itu kami telah mulai memperbarui metrik akun secara nyata dan real-time: sebagai contoh, jumlah follower yang dimiliki sebuah akun, atau jumlah likes atau Retweet yang didapatkan sebuah cuitan, akan diperbarui secara benar saat kami melakukan tindakan pada akun tersebut.

Jadi, jika kami memasukkan sebuah akun ke dalam keadaan read-only (di mana akun tidak bisa berinteraksi dengan yang lain atau mencuitkan cuitan) karena sistem kami mendeteksi perilaku yang mencurigakan, kami sekarang menghapusnya dari kolom followers dan berbagai keterlibatan sampai lolos pengecekan, seperti konfirmasi nomor telepon. Kami juga menampilkan peringatan pada akun read-only ini dan mencegah akun baru untuk mengikuti mereka guna membantu mencegah paparan konten berbahaya yang tidak disengaja. Jika akun tersebut berhasil melewati sistem pengecekan, jejaknya akan dipulihkan kembali (meskipun bisa memakan waktu beberapa jam). Kami sedang berupaya untuk membuat perlindungan ini lebih transparan bagi siapa saja yang mungkin untuk mencoba berinteraksi dengan akun dalam keadaan read-only ini.

Sebagai hasil dari penyempurnaan ini, beberapa pengguna mungkin akan menyadari, bahwa metrik akun mereka berubah secara lebih teratur. Namun kami berpendapat, bahwa hal ini adalah perubahan penting dalam cara kami menampilkan informasi mengenai sebuah Tweet dan akun untuk memastikan, bahwa akun berbahaya tidak dapat meningkatkan kredibilitas mereka secara permanen dengan meningkatkan metrik seperti jumlah pengikut.

Nantikan: dalam beberapa minggu mendatang, kami akan memiliki lebih banyak informasi untuk dibagikan tentang langkah-langkah tambahan untuk mengurangi dampak dari aktivitas semacam ini di Twitter.

Tweet ini tidak tersedia
Tweet ini tidak tersedia.

2 - Memperbaiki proses pendaftaran kami

Untuk mempersulit pendaftaran akun spam, kami juga akan meminta akun baru untuk mengonfirmasi alamat email atau nomor telepon ketika mereka mendaftar ke Twitter. Ini merupakan perubahan penting untuk melindungi para pengguna dari pelaku-pelaku yang hanya ingin mengambil keuntungan dari keterbukaan kami. Kami akan bekerja sama dengan Trust & Safety Council dan lembaga-lembaga pakar terkait lainya untuk memastikan, bahwa perubahan ini tidak akan merugikan seseorang dalam lingkungan yang beresiko tinggi, di mana anonimitas merupakan hal penting. Pembaruan ini akan segera diluncurkan akhir tahun ini.

Tweet ini tidak tersedia
Tweet ini tidak tersedia.

3 - Mengaudit akun-akun yang ada untuk melihat ada tidaknya tanda-tanda pendaftaran otomatis

Kami juga melakukan audit untuk mengamankan sejumlah sistem lama yang digunakan untuk membuat akun. Tujuannya adalah untuk memastikan, bahwa setiap akun yang dibuat di Twitter telah melewati beberapa pemeriksaan keamanan otomatis sederhana yang dirancang untuk mencegah pendaftaran otomatis. Perlindungan baru yang telah dikembangkan sebagai hasil dari audit ini telah membantu mencegah lebih dari 5,000 pendaftaran bersifat spam setiap harinya.

Sebagai bagian dari audit ini, kami akan segera melakukan pengecekan kepada sejumlah besar akun spam yang dicurigai yang kami deteksi sebagai bagian dari penyelidikan atas penyalahgunaan bagian lama dari proses pendaftaran. Akun-akun ini secara umum mengikuti akun spam; yang dalam banyak kasus, tampaknya secara otomatis atau secara massal mengikuti akun-akun ternama atau akun-akun centang biru lainnya yang disarankan ke akun baru dalam proses pendaftaran kami. Sebagai hasil dari tindakan ini, beberapa orang mungkin akan melihat jumlah follower mereka menurun - ketika kami melakukan pengecekan akun, akun berbahaya tersebut akan disembunyikan sampai sang pemilik akun berhasil melewati proses pengecekan kami. Ini tidak berarti bahwa akun yang mengalami penurunan jumlah followers telah melakukan pelanggaran; mereka merupakan target dari akun spam yang sedang kami bersihkan. Kami baru-baru ini mengambil langkah-langkah lebih lanjut untuk membersihkan spam dan aktivitas bot, menutup celah yang mungkin bisa dieksploitasi, dan bekerja untuk lebih transparan mengenai tindakan semacam ini.

Tweet ini tidak tersedia
Tweet ini tidak tersedia.

4 - Perluasan sistem pendeteksian perilaku berbahaya

Kami saat ini juga mengotomatisasi beberapa proses di mana kami melihat aktivitas akun yang mencurigakan, seperti melakukan cuitan dalam volume tinggi dengan tagar yang sama, atau menggunakan akun yang sama tanpa balasan dari akun yang Anda mention. Tes ini bervariasi dalam hal intensitas; dan pada tingkat yang sederhana, mungkin akan melibatkan pemilik akun yang menyelesaikan proses reCAPTCHA sederhana atau permintaan pengaturan ulang kata sandi. Kasus yang lebih kompleks secara otomatis dikirimkan ke tim kami untuk ditinjau.

 

Tweet ini tidak tersedia
Tweet ini tidak tersedia.

Tweet ini tidak tersedia
Tweet ini tidak tersedia.

Apa yang Dapat Dilakukan oleh Pengguna

Ada beberapa langkah penting yang dapat dilakukan pengguna untuk melindungi keamanan mereka di Twitter:

  • Mengaktifkan two-factor authentication. Daripada hanya memasukkan kata sandi untuk mengakses akun Anda, Anda juga akan memasukkan kode yang dikirim ke ponsel Anda. Verifikasi ini membantu memastikan bahwa Anda, dan hanya Anda, yang dapat mengakses akun Anda.
  • Melakukan peninjauan berkala untuk semua aplikasi pihak ketiga. Anda dapat meninjau dan mencabut akses untuk aplikasi lain dengan mengunjungi tab Aplikasi di pengaturan akun Anda di twitter.com.
  • Jangan menggunakan kata sandi yang telah digunakan di platform atau situs lainnya. Gunakan kata sandi yang berbeda untuk setiap akun Anda. Anda juga dapat menggunakan pengamanan FIDO Universal 2nd Factor (U2F) sebagai verifikasi ketika masuk ke dalam akun Twitter Anda.
Tweet ini tidak tersedia
Tweet ini tidak tersedia.
Tweet ini tidak tersedia.

Selain itu, jika Anda yakin Anda telah ditindak secara salah oleh salah satu sistem pendeteksi spam otomatis kami, Anda dapat menggunakan proses banding kami untuk meminta peninjauan atas kasus Anda.

Tweet ini tidak tersedia
Tweet ini tidak tersedia.

Langkah Selanjutnya

Ke depan, Twitter terus berinvestasi di berbagai bidang sebagai pendekatan kami mengenai hal ini, termasuk pemanfaatan teknologi machine learning dan kerjasama dengan pihak ke-tiga. Kami juga berharap dapat segera mengumumkan hasil Permintaan untuk Proposal kami untuk penelitian metrik kesehatan masyarakat.

Masalah-masalah ini dirasakan di seluruh dunia, mulai dari pemilihan umum hingga peristiwa darurat dan percakapan publik tingkat tinggi. Seperti yang telah kami nyatakan dalam pengumuman baru-baru ini, kesehatan percakapan pengguna di Twitter adalah metrik penting yang akan digunakan untuk mengukur keberhasilan kami di bidang-bidang ini.

Tweet ini tidak tersedia
Tweet ini tidak tersedia.
@yoyoel

Yoel Roth

‎@yoyoel‎

Platform Policy, Twitter

@delbius

Del Harvey

‎@delbius‎

VP, Trust & Safety