Cyberthreat.id - Twitter baru saja meluncurkan peraturan baru yang lebih tegas terkait Deepfake. Cuitan yang menyebar atau mengandung Deepfake yang 'memanipulasi dan menghancurkan' akan dihapus karena sangat membahayakan. Deepfake yang tidak membahayakan dibiarkan semisal konten marketing atau bisnis.

Lebih lanjut Twitter menyatakan akan menghapus konten yang secara signifikan mengancam keamanan hingga ancaman fisik terhadap kelompok atau perorangan. Termasuk jika menciptakan risiko kekerasan dan kerusuhan massal. Aturan ini juga berlaku untuk konten yang bertujuan membungkam seseorang, menindas dan mengintimidasi.

Ada tiga kriteria yang menjadi kebijakan Twitter untuk menghapus Deepfake yakni; jika diubah secara signifikan dan menipu; dibagikan dengan tujuan menipu; dan akan menyebabkan kerugian lebih besar. Twitter juga menambahkan klausa baru dalam hal yang mencakup media sintetis dan manipulasi.

"Pengguna tidak boleh menipu dengan berbagi media sintetis atau yang dimanipulasi, yang mungkin menyebabkan kerusakan. Selain itu, kami akan memberi label Tweet yang berisi media sintetis dan yang dimanipulasi guna membantu orang memahami keasliannya dan memberikan konteks tambahan," ungkap Twitter dilansir ZDNet, Rabu (5 Februari 2020).

Bulan lalu Facebook juga menguraikan aturan baru terkait Deepfake, dimana Facebook akan menghapus video atau konten dengan cara yang tidak terlihat oleh orang kebanyakan. Konten yang akan menyesatkan seseorang untuk berpikir bahwa subjek video mengatakan kata-kata yang tidak pernah diungkapkan sehingga memicu konflik.

Aturan baru kepada jejaring media sosial meminta perusahaan teknologi melawan disnformasi sebelum dan menjelang pemilihan presiden AS 2020, tetapi tetap harus menjaga prinsip kebebasan berbicara dan berpendapat. 

Perusahaan-perusahaan ini juga menghadapi pengawasan dari anggota parlemen di AS dan Eropa karena sebelumnya tidak cukup untuk melawan hoaks dan disinformasi, terutama dalam pemilihan umum yang diintervensi oleh campur tangan oleh pemerintah asing.

Selain memberi label pada tweet, kepala integritas Twitter, Yoel Roth, mengatakan akan menunjukkan peringatan kepada pengguna sebelum mereka me-retweet, mengurangi visibilitas tweet yang diberi label dan mencegahnya dari yang direkomendasikan, serta memberikan penjelasan dan klarifikasi tambahan.

"Kami berkomitmen untuk melakukan ini dengan benar. Memperbarui aturan kami dengan pengumuman serta dengan partisipasi demokratis akan terus menjadi inti dari pendekatan kami," kata Roth.

Jigsaw, AI Lawan Deepfake

Jigsaw, dari Google Alphabet, telah merilis tools pengecekan fakta baru yang disebut Assembler yang menggunakan kecerdasan buatan (AI) untuk membantu wartawan mendeteksi gambar atau video yang dimanipulasi. Ini akan membuatnya lebih cepat bagi pemeriksa fakta dan reporter untuk mendeteksi ketika suatu gambar telah dimanipulasi.

Assembler menggunakan model manipulasi gambar yang dikembangkan oleh para peneliti dari University of Maryland, University Federico II of Naples, dan University of California, Berkeley. Alat ini menggunakan model untuk menunjukkan probabilitas bahwa suatu gambar telah dimanipulasi. Google Research juga berkontribusi pada proyek ini.

Menurut Jared Cohen dari Jigsaw, Assembler merupakan platform eksperimental tahap awal. Assembler merakit beberapa detektor manipulasi gambar dari akademisi menjadi satu tools untuk membuat penilaian yang lebih komprehensif.

Jigsaw juga membangun StyleGAN yang mengacu pada jaringan permusuhan generatif yang sering digunakan untuk membuat Deepfake untuk mendeteksi Deepfake. Menggunakan pembelajaran mesin (Machine Learning) untuk menemukan perbedaan antara gambar orang nyata dan gambar yang dimanipulasi.

Jigsaw menerbitkan alat visualisasi data yang mencakup peta kampanye disinformasi terbaru di seluruh dunia, taktik yang digunakan dan platform yang dieksploitasi. Alat ini bergantung pada data yang dikumpulkan oleh Digital Forensic Research Lab (DFRLab) Dewan Atlantik. []

Redaktur: Arif Rahman