Contoh hasil deepfake yang memanipulasi wajah aktris Jennifer Lawrence. | Foto: https: thesun.co.uk
Contoh hasil deepfake yang memanipulasi wajah aktris Jennifer Lawrence. | Foto: https: thesun.co.uk
San Fransisco, Cyberthreat.id – Video palsu yang dibuat dengan kecerdasan buatan (deepfake) kini mulai menjadi problem di internet. Setidaknya ada 14.678 video deepfake yang ditemukan dan jumlah tersebut kian bertambah di internet.
Demikian tulis CNN Business, Senin (7 Oktober 2019) berdasarkan penghitungan terbaru oleh Deeptrace Labs startup asal Amsterdam, Belanda yang mengembangkan teknologi AI untuk menemukan konten yang dimanipulasi menyerupai video porno.
Jumlah video deepfake yang ditemukan tersebut sebanyak 84 persen lebih tinggi daripada temuan pada Desember 20018 sebanyak 7.964. Temuan teranyar dihitung antara Juni dan Juli 2019.
Sementara ini banyak liputan tentang deepfake yang berfokus pada potensinya untuk menjadi alat perang informasi dalam politik. Ternyata, temuan Deeptrace menunjukkan masalah lain, yaitu pornografi.
Berita Terkait:
Deeptrace mengatakan 96 persen dari deepfake terlihat terdiri dari konten pornografi, dan semua konten pornografi itu menampilkan perempuan.
CEO Deeptrace, Giorgio Patrini, mengatakan, dalam waktu tujuh bulan konten palsu yang dibuat meningkat dan beredar dengan cepat. Bahkan, ada video deepfake terlihat sangat tidak realistis, tapi banyak penonton yang tidak mengetahuinya. "Itu ancaman yang cukup mengkhawatirkan bagi media sosial," kata Patrini.
Deepfake, yang merujuk pada kombinasi istilah "deep learning” (pembelajaran mendalam)" dan "fake” (palsu), menggunakan kecerdasan buatan (AI) untuk menunjukkan orang melakukan dan mengatakan sesuatu yang tidak mereka lakukan atau katakan. Media ini cukup baru, video-video pertama yang diketahui, diunggah ke media sosial Reddit pada 2017, menampilkan wajah-wajah selebriti yang ditukar dengan wajah para bintang porno.
Upaya Deeptrace untuk mengukur video deepfake online terbilang unik, karena teknologi ini baru lahir dan video tersebar di seluruh web, mungkin sulit untuk mengetahui di mana mencarinya, dan pembuat konten tidak selalu menandai video yang diubah sebagai deepfake.
Berita Terkait:
Pada dasarnya, penghitungan Deeptrace kurang dari 15.000 video, mungkin terdengar kecil, terutama ketika mengingat jumlah video online yang tak terhitung jumlahnya. Namun ketika mendekati pemilihan presiden AS tahun 2020, politisi dan pejabat pemerintah khawatir jenis video ini.
Patrini mengatakan Deeptrace melacak deepfake untuk memahami potensi ancaman jenis deepfake yang sedang dibuat dan tempat-tempat orang berbagi, serta tempat-tempat di mana alat (seperti perangkat lunak atau tutorial) yang digunakan untuk membuat dan didistribusikan.
Dia mengatakan, ahli deepfake sama halnya di bidang ahli cybersecurity yang terus berkembang pada umumnya; teknik untuk menemukan deepfake harus terus berubah.
Untuk menghitung deepfake, Deeptrace menggunakan beberapa alat otomatis untuk melacak komunitas online tempat orang berdiskusi dan berbagi deepfake. Ini termasuk situs populer seperti Reddit dan YouTube, di mana tim Patrini menemukan deepfake "cukup berbahaya" ( misal, montase video Elon Musk (CEO Tesla) sebagai bayi).
Lalu, ada pula deepfake populer mantan Presiden Barack Obama sebagai sindiran politik dan CEO Facebook Mark Zuckerberg sebagai bagian dari instalasi seni.
Sebagian besar deepfake yang ditemukan Deeptrace, berasal dari situs-situs pornografi, dan terutama yang didedikasikan untuk pengunjung pornografi deepfake, seperti video yang menampilkan selebriti perempuan atau wajah aktris yang ditukar ke tubuh perempuan lain.
Menurut temuan terbaru Deeptrace, lebih dari 13.000 dari total video deepfake ditemukan di sembilan situs porno khusus deepfake. Deeptrace menemukan bahwa delapan dari 10 situs web pornografi teratas juga memasukkan beberapa deepfake dalam konten mereka.
Patrini tidak mengungkapkan nama situs-situs itu karena tidak ingin memberi mereka lebih banyak perhatian. Tetapi, dia mengatakan bahwa yang berfokus pada pornografi secara mendalam mulai bermunculan tahun lalu, berdasarkan cek Deeptrace ketika nama domain situs web didaftarkan.
Bisnis
Deeptrace juga memperhatikan sejumlah orang dan bisnis yang sudah mulai menawarkan untuk membuat deepfake untuk orang lain. Laporan itu mengutip satu layanan yang mengklaim bisa membuat custom deepfake dalam dua hari dengan 250 foto orang yang ingin dilihat pembeli di video yang dihasilkan. Harga terendah US$ 3 per video.
Deeptrace hanya mensurvei situs web di internet berbahasa Inggris, tetapi Patrini mengatakan terkejut melihat banyak deepfake yang dibuat dengan selebriti dari negara-negara di Asia, juga, terutama di deepfake porno, termasuk di non-pornografi.
Redaktur: Andi Nugroho
Share:
